Biblioteket tar saka #librarycase

Bloggaren har no lese ut boka «Maskiner som tenker» av Inga Strümke (etter å vore innom denne og tre andre relevante bøker 25. mars). Vi snakkar no om ein bestseljar gjennom snart tre månader, trass i det krevjande innhaldet, så mange tar altså «KI» verkeleg alvorleg. Og boka kan nok vere ein god stad å starte, trass i ein god del både filosofiske og IT-tekniske og realfaglege utfordringar for dei fleste av oss.

I få bøker har eg brukt merkepenna så mykje som denne. Fleire stader har eg sett spørjeteikn i margen, for å sjå om eg kan forstå meir ved seinare lesing. Døme på slikt er når ho skriv om «dimensjonsforbannelsen» og «maskinlæring i høydimensjonale data». Men mykje har eg «gula ut» nærmast i triumf, av slikt eg (trur eg) har forstått. Her nokre slike gullkorn eller plutseleg frigjerande tankar, for å seie det med Kjell Askildsen:

Side 160: «Det finnes (inntil videre) ingen chatboter som kan gå ut i verden og bestemme seg for hvilke forhold som må undersøkes nærmere og skrives saker om. ChatGPT er, som alle dens søstre, fabelaktig flink til å formulere seg, men den har ingen måte å undersøke om det den sier, er sant. Kort sagt er den god til å kommunisere, men elendig til å informere».

Side 165: «… når vi tenker på språkmodeller, må vi huske at språk handler om noe. Og hvorvidt en maskinlæringsmodell kan forstå dette “noe” basert kun på gigantiske mengder tekst, er vanskelig å si. Språkmodeller har ikke kropp, de har aldri gått rundt i den virkelige verden og forstått ekte årsakssammenhenger. Samtidig kan de altså lære seg å beherske språk, som representerer nettopp den virkelige verden med alle sine sammenhenger».

Side: 178: » … vissheten om at all digital informasjon i prinsippet kan være villedende, gir oss et kraftig incentiv til å utvikle kritisk tankegang…. Om vi forstår at vi går en fremtid i møte der absolutt alt vi støter på kan være falskt, og at man er naiv om man tror på det man får servert uten å undersøke hvor faktaene kommer fra, vil dette gi vår evne til kritisk tenking et solid løft». (høyrer eg bibliotekarjubel?).

Side 196: «Sporvognproblemet (bør du endre kursen på den løpske sporvogna så ho berre dreper eitt menneske i staden for ei gruppe? Min merknad) var før kun et tankeeksperiment, konstruert for å belyse ulike etiske perspektiver, og har nå blitt et aktuelt spørsmål som må løses i den virkelige verden». 

Kor mykje må folk flest forstå av «KI» i dag? Det viktigaste er kanskje å kjenne avgrensingane til systema. Kva som er muleg og umuleg, inntil vidare. Dei digitale analfabetane i dag (rundt 600 000 i Noreg som ikkje er på nett og/eller ikkje har smarttelefon) forstår ikkje eingong kva som er muleg på nettet. No blir mange fleire av oss analfabetar. Men bibliotekarar må forsøke å forstå meir enn oss vanlege om kva som er «under motorpanseret». Slikt som Strümke skriv om.

—

Så skriv ho på side 190: «Maskiner overtar ikke oppgavene til mennesker av egen vilje. Det er mennesker som bestemmer at de skal gjøre det, og konsekvensen av at det gjøres, er avhengig av hva slags samfunn det hele skjer i. Riktignok kan de økonomiske driverne være så sterke at vi får et inntrykk av at det ikke finnes et reelt valg rundt hvorvidt maskiner skal overta arbeidsoppgaver, men konsekvensene av dette er det like fullt samfunnet som må håndtere».

Her kjem Strümke inn på noko avgjerande viktig, utan å følgje opp i særleg grad.

Men i Klassekampen 2. juni foreslår doktorgradsstudent i filosofi, Ellen Emilie Henriksen: «Følg pengene». Ho avsluttar slik:

«Regulering av et marked hvor man selv allerede er monopolist kan være positivt: som et enormt selskap har man ressursene til å tilpasse seg nye lovkrav. I tillegg nekter man mindre selskap den samme friheten man selv hadde da man klatret til toppen. At Sam Altan (han heiter Altman, min merknad) advarer om dommedagsprofetier på grunn av KI burde ikke møtes med spørsmål om hvorvidt dette er overdrevet eller ikke, men heller brukes som en anledning til å diskutere hvorvidt dette fungerer som reklame for OpenAI, eller om det er en del av en allerede etablert strategi om å regulere et marked hvor man allerede er monopolist.

Både medier og forskere har latt seg avlede av diskusjoner om hva intelligens er og hvorvidt en maskin er i stand til å oppnå menneskelig intelligens. Dette er interessante spørsmål, men de går på bekostning av en analyse av teknologiselskapenes strategi og motiver. Teknologiselskapene har en ufattelig makt over samfunnet, og det er ikke fordi intelligens nødvendigvis fører til makt. Makt fører til makt».