KI-skandalen i Tromsø

Språkmodellen hadde gjort det den er best på: Gi et sannsynlig svar basert på det brukeren spør om. Den har “hallusinert”, det vil si diktet opp informasjon som passer i svaret, men som ikke har grunnlag i virkeligheten. Svaret fremstår som veldig troverdig, spesielt siden den siterer en rekke reelle forskere. Problemet er bare at forskerne ikke hadde skrevet de bøkene den siterte.

Kommunen har tatt selvkritikk for måten de har brukt kunstig intelligens i saken, og bruker nå tid på å rydde opp. De har også startet opp en granskning av KI-bruken i kommunen.

Digitaliseringsminister Karianne Tung berømmer kommunen for å ta i bruk kunstig intelligens, men minner samtidig om at man må bruke verktøyene på en fornuftig måte.

Hun minner om:

“Gode råd til 80 % bruk av kunstig intelligens i offentlige virksomheter:

1. Sett deg inn i hva kunstig intelligens og maskinlæring er.

2. Ha åpenhet om datagrunnlaget du bruker.

3. Ha mennesker i førersetet.

4. Sikre likebehandling.

5. Håndter sensitive data på en sikker måte.

6. ikke vær redd for å teste ut.

7. Søk veiledning.”

Denne saken er neppe unik, og den viser hvor galt det kan gå hvis KI brukes feil eller ukritisk. Det er viktig at man som bruker av KI gjør det med kunnskap og varsomhet, og ikke minst at man bruker de verktøyene som egner seg for oppgaven. KI kan være et utrolig godt hjelpemiddel, men det er menneskene som er beslutningstakere. 

Vi i Lawai mener at Digitaliseringsministeren kommer med gode råd til offentlige virksomheter: Det er viktig at KI tas i bruk, men det må også tas i bruk på en god måte.

Lawai er godt egnet til bruk i arbeidslivet, fordi den håndterer data på en sikker måte, den er bygget for å unngå hallusinering og feilinformasjon, og den opptrer på en etisk måte.

Fordi det er så viktig at KI tas i bruk på en fornuftig måte, har vi laget et gratis e-postkurs om kunstig intelligens i arbeidslivet.

Kurset fra Lawai er utformet som en serie e-poster med et praktisk innhold som kan leses i eget tempo. Det gir en grunnleggende innføring i KI og gir eksempler på hvordan teknologien kan brukes i arbeidslivet. – Vi ser på hvordan KI kan brukes til å automatisere HR-prosesser, som rekruttering og oppfølging, og hvordan teknologien kan bidra til bedre compliance og risikostyring. Vi gir også eksempler på hvordan vi kan bruke KI-assistenter mest mulig effektivt, som å skrive gode “prompts”.

Du kan melde deg på kurset HER.