Stipendiat i Trustworthy AI: Sikkerhet, personvern og robusthet i AI-modeller – Universitetet i Stavanger
IT Utvikling(3 uker siden)
Stillingsbeskrivelse
Published 23-05-2024
Deadline: 01-08-2024
Stipendiat i Trustworthy AI: Sikkerhet, personvern og robusthet i AI-modeller
Om stillingen
Universitetet i Stavanger har ledig stilling som stipendiat i Trustworthy AI: Sikkerhet, personvern og robusthet i AI modeller, ved Det teknisk- naturvitenskapelige fakultet, Institutt for data- og elektroteknologi.
Stillingen er ledig fra 01.08.2024 med oppstart senest 01.12.2024.
Dette er en utdanningsstilling som i hovedsak skal gi lovende forskere anledning til faglig utvikling gjennom en forskerutdanning.
Den som ansettes vil bli tatt opp på doktorgradsprogrammet i teknologi og naturvitenskap. Programmet omfatter relevante kurs i et omfang som tilsvarer omkring et halvt års studium, en avhandling basert på selvstendig forskning, deltakelse i nasjonale og internasjonale forskermiljø, relevant forskningsformidling, prøveforelesning og disputas. Les mer om forskerutdanningen ved UiS på våre nettsider.
Stipendiaten ansettes for en periode på tre år med ren forskerutdanning.
Forskningstema
Ettersom kunstig intelligens (AI) fortsetter å bli mer utbredt på ulike felt, har det blitt stadig viktigere å sikre AI-systemenes sikkerhet, personvern og robusthet. Dette PhD-prosjektet har som mål å takle disse utfordringene, med fokus på banebrytende kryptografibaserte løsninger. Forskningen vil navigere i kompleksiteten til kontradiktoriske maskinlæringsangrep og -forsvar, formulere robusthetsmålinger og understreke utfordringene til store språkmodeller (LLM). Kandidaten vil kunne sette seg inn i fem sentrale domener: «Homomorphic Encryption», «Adversarial ML Attacks and Defenses for LLMs», «Uncertainty Quantification and Metrics for LLMs», «Post-Quantum Cryptography for AI» og «Neural Cryptography».
Denne forskningen tar sikte på å skape innovative løsninger som forbedrer sikkerheten i AI-systemer. Forskningen vil ta utgangspunkt i teoretiske modeller og teste effektiviteten til disse løsningene i virkelige omgivelser. Mens de potensielle forskningsområdene gir et omfattende rammeverk, kan de spesifikke forskningsemnene tilpasses basert på kandidatens ekspertise og de utviklende trendene innen AI-sikkerhetsdomenet. Målet er å skreddersy forskningen til kandidatens unike bakgrunn for å oppnå best mulig resultat. Forskningen er forpliktet til å fremme et miljø som oppmuntrer til innovasjon og fleksibilitet i møte med nyere utfordringer innen AI-sikkerhet.
Potensielle forskningsområder:
1. Homomorphic kryptering: Undersøk avanserte personvernbevarende metoder, spesielt homomorphic kryptering, for å muliggjøre sikker beregning av krypterte data, og bevare konfidensialiteten til sensitiv informasjon i AI-applikasjoner.
2. ML-angrep og forsvar for LLM-er: Dykk inn i fronten av motstridende maskinlæring, med fokus på utvikling av robuste forsvar mot sofistikerte angrep skreddersydd for store språkmodeller. Utforske det dynamiske samspillet mellom angripere og forsvarere i det utviklende landskapet for AI-sikkerhet.
3. Usikkerhetskvantifisering og beregninger for LLMs: Utvikle innovative beregninger og rammeverk for å kvantifisere og håndtere usikkerheter som er iboende i store språkmodeller. Ta tak i utfordringer knyttet til påliteligheten og tolkbarheten til AI-systemer, spesielt når det gjelder å generere pålitelige resultater.
4. Post-kvante kryptering for kunstig intelligens: Forutse og adressere fremtidige trusler fra kvantedatabehandling mot eksisterende kryptografiske systemer. Utvikle post-kvante kryptografiske løsninger for å styrke den langsiktige sikkerheten til AI-applikasjoner mot utviklende beregningsevner.
5. Neural kryptografi: Utforsk nye kryptografiske teknikker skreddersydd for de spesifikke vanskelighetene til nevrale nettverk, og sikrer sikker kommunikasjon og databeskyttelse innenfor AI-systemer.
Samarbeid:
Kandidaten vil få muligheten til å samarbeide med anerkjente institusjoner som University of York, Virginia Old Dominion University og Ericsson Research. Disse samarbeidene vil gi et rikt tverrfaglig miljø for kandidaten innen Trustworthy AI.
Kvalifikasjoner
Du må ha en sterk faglig bakgrunn med femårig mastergrad (3+2) innen datakteknologi, data science, elektroteknologi eller matematikk; eller tilsvarende utdanning som gir grunnlag for å gjennomføre en forskerutdanning, fortrinnsvis av nyere dato.
Dersom karakteren din på masteroppgaven og veid gjennomsnittskarakter på masterstudiet begge hver for seg tilsvarer B eller bedre, er du den vi søker etter. Avslutter du utdanningen din våren 2024, er du også velkommen til å søke.
Dersom du har utdannelse fra en institusjon med annen karakterskala enn A-F ber vi deg om å legge ved en bekreftet konverteringsskala som viser hvordan karakterene kan sammenliknes med den norske A-F skalaen. Du kan bruke disse konverteringsskalaene til å beregne poengene dine for opptak.
Videre legges det vekt på at du:
- er motivert for tverrfaglig AI-forskning, med fokus på sikkerhet, personvern og robusthet.
- har god kunnskap innen AI, spesielt store språkmodeller (LLM), som gir en solid base for avansert forskning innen AI-sikkerhet.
- har erfaring med vitenskapelig programmering, spesielt i Python, og kan vise til praktiske ferdigheter for implementering og testing av avanserte AI-sikkerhetsløsninger.
- er motivert og har potensial for forskning innenfor fagfeltet
- har faglige og personlige forutsetninger for å gjennomføre doktorgradsutdanningen innen ansettelsesperioden
- kan arbeide selvstendig og i et fellesskap, være nytenkende og kreativ
- er strukturert og har stor arbeidskapasitet
- har gode ferdigheter i engelsk, både skriftlig og muntlig.
Krav til kompetanse i engelsk
Gode ferdigheter i engelsk er påkrevd for deltakelse i doktorgradsprogrammet. Internasjonale søkere må dokumentere dette med gyldig sertifikat fra en av følgende tester:
- TOEFL – Test of English as a Foreign Language, Internet-Based Test (IBT). Minimum resultat: 90
- IELTS – International English Language Testing Service. Minimum resultat: 6.5
- Certificate in Advanced English (CAE) eller Certificate of Proficiency in English (CPE) fra Universitetet i Cambridge
- PTE Academic – Pearson Test of English Academic. Minimum resultat: 62
Følgende søkere er fritatt fra ovennevnte krav:
- søkere med ett års fullført universitetsstudier i Australia, Canada, Irland, New Zealand, Storbritannia, USA
- søkere med fullført mastergrad med engelsk som undervisningsspråk i et EU-/EØS-land
- søkere som er fritatt basert på NOKUT sin GSU liste
Vi tilbyr
- forskerutdanning i en stor organisasjon med et viktig samfunnsoppdrag
- et ambisiøst arbeidsfellesskap og et inkluderende arbeidsmiljø
- kollegabasert veiledningsprogram (NyTi) dersom du skal undervise
- lønn etter Statens lønnsregulativ l.pl 17.515, kode 1017, kr 532.200 bto pr år med lønnsutvikling etter ansiennitet i stillingen. I særskilte tilfeller kan høyere avlønning vurderes. Fra lønnen trekkes lovfestet innskudd til Statens pensjonskasse.
- medlemskap i Statens pensjonskasse sikrer gode pensjons- og forsikringsordninger
- mer om ansattgoder og fordeler på uis.no
Mangfold
Vi vurderer mangfold som en ressurs i vårt arbeids- og læringsmiljø, og er opptatt av å vise respekt for hverandres ulikheter og bakgrunn.
Universell utforming skal prege våre fysiske og digitale læringsmiljø, og arbeidsplassen vil bli lagt til rette for ansatte med nedsatt funksjonsevne.
Dersom du vurderer stillingen som interessant oppfordrer vi deg til å søke, uavhengig av kjønn, funksjonsevne, kulturell bakgrunn eller om du en periode har vært utenfor arbeidslivet.
Er det kvalifiserte søkere med funksjonsnedsettelse, hull i CV-en eller innvandrerbakgrunn, innkaller vi minst én søker i hver av disse gruppene til intervju. Kjenner du deg igjen i en av disse kategoriene, kan du krysse av i jobbsøkerportalen vår.
Les mer om kravene for å bli vurdert som søker i disse gruppene her.
Universitetet vil rekruttere flere kvinner til stillinger som stipendiat innenfor fagområdet. Dersom flere søkere anses å ha likeverdige kvalifikasjoner, vil en kvinne bli prioritert foran en mann.
Kontaktinformasjon
Nærmere opplysninger om stillingen fås ved henvendelse til førsteamanuensis Ferhat Ozgur Catak, tlf: 91 83 20 81, e-post: f.ozgur.catak@uis.no.
Opplysninger om ansettelsesprosessen fås ved henvendelse til HR-rådgiver Rosa Andrade, tlf: 51 83 11 91, e-post: rekruttering@uis.no.
Søknaden
Søk stillingen elektronisk via «Søk stillingen» på denne siden. Her registreres minimum søknadsbrev, relevant utdanning og arbeidserfaring samt språkferdigheter. I søknadsbrevet må du få frem dine forskningsinteresser og motivasjon for stillingen.
Følgende skal lastes opp som vedlegg til søknaden:
- CV med fullstendig oversikt over utdanning og erfaring
- vitnemål og attester samt dokumentasjon på annen aktivitet som vurderes relevant
- Diploma Supplement eller lignende og konverteringsskala dersom dette er påkrevd
- dokumentasjon på kompetanse i engelsk språk dersom dette er påkrevd
- publikasjoner eller annet relevant forskningsarbeid
Søknaden vil bli vurdert ut fra informasjonen som foreligger i Jobbnorge ved søknadsfristen. Sørg derfor for at søknaden tydelig viser hvordan dine ferdigheter og erfaringer oppfyller kriteriene som er beskrevet over og at du har lagt ved nødvendig dokumentasjon.
Dokumentasjonen må foreligge på et skandinavisk språk eller engelsk. Hvis vedleggene overskrider 30 MB til sammen må disse komprimeres før opplasting.
Vi gjør oppmerksom på at opplysninger om søker kan bli offentliggjort selv om søker har anmodet om ikke å bli oppført på offentlig søkerliste, jf offentlighetsloven § 25. Dersom din anmodning ikke blir tatt til følge vil du bli varslet om dette.
UiS vurderer bare søknader og vedlegg registrert i Jobbnorge.
Generell informasjon
Ansettelsen blir gjennomført etter prinsippene i statsansatteloven, og lovverk som regulerer eksport av kunnskap, teknologi og tjenester. Dersom søknaden din vurderes å være i strid med kriteriene i sistnevnte lovverk og dersom det vurderes at du ikke kan starte i stillingen innen 01.11.2024, vil du få søknaden avslått uten videre vurdering.
Ansettelse som stipendiat er regulert i Forskrift om ansettelsesvilkår for stillinger som postdoktor, stipendiat, vitenskapelig assistent samt spesialistkandidat.
Din kompetanse for stillingen, ut fra dokumentasjon registrert i Jobbnorge, vil bli vurdert av en intern komite. På bakgrunn av komiteens uttalelse vil aktuelle søkere bli invitert til intervju. Det vil også bli innhentet referanser for aktuelle kandidater. Mer om ansettelsesprosessen på våre nettsider.
Studiet gjennomføres i hovedsak ved Universitetet i Stavanger, bortsett fra et avtalt utenlandsopphold i et anerkjent relevant forskningsmiljø.
Det er en forutsetning at du bosetter deg slik at du kan være tilstede ved, og tilgjengelig for, fagmiljøet på arbeidsplassen i ordinær arbeidstid.
Stillingen er kunngjort på både norsk og engelsk. Ved meningsforskjell mellom tekstene skal den engelske teksten legges til grunn.
DIVERSE INFO
| Arbeidsgiver | Universitetet i Stavanger orgnr: |
|---|---|
| Kort om arbeidsgiver |
Universitetet i Stavanger (UiS) har omlag 12.000 studenter og 2.200 ansatte. Universitetet har store ambisjoner. Vi skal ha en innovativ og internasjonal profil og være en drivkraft i kunnskapsutviklingen og endringsprosesser i samfunnet. Vår felles retning skal drives frem av omtanke for grønn og bærekraftig omstilling og rettferdig samfunnsutvikling, gjennom nye måter å forvalte naturressursene på og legge til rette for bedre byer og lokalsamfunn. Energi, helse og velferd, læring for livet er våre satsingsområder. I samspill og dialog med våre omgivelser regionalt, nasjonalt og internasjonalt har vi et åpent og innovativt klima for utdanning, forskning, kunstnerisk utviklingsarbeid, nyskapning, formidling og museumsvirksomhet. Den faglige virksomheten ved universitetet er organisert i seks fakultet med 13 institutt og to nasjonale forsknings- og kompetansesenter i tillegg til Arkeologisk museum. Vi er medlem i det europeiske nettverket for innovative universitet – European Consortium of Innovative Universities. Universitetet ligger i den mest attraktive regionen i landet med 300.000 innbyggere. Stavangerregionen har et dynamisk arbeidsmarked og tilbyr en rekke spennende kultur- og fritidsaktiviteter. Sammen med våre ansatte og studenter vil vi løfte blikket, og våge å tenke stort og nytt – vi vil utfordre det velkjente og utforske det ukjente. Det teknisk-naturvitenskapelige fakultet tilbyr teknisk-naturvitenskapelige utdanninger på bachelor-, master- og doktorgradsnivå. I nært samarbeid med NORCE og industrien i regionen har fakultetet etablert samarbeid om forskning. En rekke master- og doktorgradsoppgaver blir laget i samarbeid med industrien. Fakultetet har etablert forskningssamarbeid med universitet i USA og Europa, og har utviklet flere fagmiljø som er internasjonalt ledende. Fakultetet har om lag 2.800 studenter og ca 500 ansatte fordelt på Institutt for data- og elektroteknikk, Institutt for maskin, bygg og materialteknologi, Institutt for matematikk og fysikk, Institutt for kjemi, biovitenskap og miljøteknologi, Institutt for energi- og petroleumsteknologi, Institutt for energiressurser og Institutt for sikkerhet, økonomi og planlegging. Institutt for data- og elektroteknologi utfører forskning innen datateknologi, data science, kybernetikk, signalbehandling og medisinsk teknologi. Instituttet er også vert for forskningsnettverket Stavanger AI Lab, og tilbyr bachelor- og masterutdanning innen elektroteknikk, datateknologi og data science, kybernetikk og robotteknologi og signalbehandling og medisinsk teknologi. I tillegg tilbys PhD-utdanning innen disse fagområdene. Det er for tiden 70 ansatte, inkludert stipendiater, forskere og postdoktorer, og 900 studenter ved instituttet. |
| Webside | http://www.uis.no/ |
| Bransje | IT |
| Yrke | Utvikling |
| Sted | STAVANGER (Adresse: Adresse mangler Postnr: 4036) |
| Stillingstype | Åremål Heltid Antall stillinger: 1 |
| Sektor | Offentlig |
| Krav | Høyere utdanning |
| Tiltredelse | Unknown |
| Søknadsfrist | 01-08-2024 |
