Kommer AI utrota mänskligheten eller har AI-folket en grandios självbild?

Som sunda personer i mitt nätverk redan konstaterat är hela ”OMG!1! AI behöver pausas och riskerar att utrota oss alla”-diskussionen trams och förleder uppmärksamhet från mer verkliga problem vi redan har.

En av de sunda personerna är Per Axbom. Kolla gärna in hans The Elements of AI Ethics som relaterar verklig skada som redan sker med den här högst teoretiska risken om en potentiell framtid.

Redan idag är AI-industrin fruktansvärt orättvis, ojämlik och ohållbar. Idag! Sådant brukar samhället vilja reglera och det är något bra.
Och även AI-industrin vill (ibland) också bli reglerade. OpenAI:s vd Sam Altman gör diverse utspel i den riktningen, samtidigt som han konstaterar att ifall EU reglerar på fel sätt kommer de lämna EU som marknad. Det är som att ta tips om fårskötsel av en flock vargar. En annan tolkning av budskapet från åtminstone företrädarna av företag som jobbar med AI är att det blåser upp deras position och därmed värde.

”The whole discourse is being put on something that may or may not happen in a couple of hundred years. You can’t do something meaningful about it as it’s so far in the future.
[...]
But bias and discrimination I can measure, I can measure the environmental impact. It takes 360,000 gallons of water daily to cool a middle-sized data centre, that’s the price that we have to pay.
[...]
It’s a publicity stunt. It will attract funding.”
– Sandra Wachter (Artificial intelligence warning over human extinction labelled ‘publicity stunt’, The Independent)

AI borde förstås regleras

Klagosången om att EU gör fel i sin önskan att reglera är inte helt olik den vi haft om GDPR. Innovation sker inte i EU men när den kommer hit slår vi ihjäl den. Samma visa med AI. Den uppfinns någon annanstans och EU är världsledande på att reglera. Som i att förbjuda, brukar vara undertonen.

Att AI regleras i EU är något att vara stolta över. Precis som att EU gick före runt personuppgifter, profilering och automatiska beslut är en AI-reglering oundvikligt för att inte hamna väldigt fel.

Samtidigt behöver väl inte AI särbehandlas jämfört med något annat. Det är en teknik som vid fel tillämpning kan skada individer, organisationer och samhälle. Vad med AI är unikt ur regleringssynpunkt? Att det riskerar uppstå nya monopol är inget nytt fenomen. Att människor och deras möjligheter att försörja sig kommer i kläm har hänt förr. Att vi har ”eviga värderingar” som väger tyngre än den för stunden rådande entusiasmen har samhället handskats med några gånger vid det här laget. I andra diskussioner har industri 4.0 och 5.0 pratats om, och de olika generationerna av industrialiseringen har förstås varit en stundtals tuff omställning. Var sak är i tiden. Och mitt forna ironiserande att man kanske inte behöver gå all-in i varje nymodighet kan tillämpas även här. Borde man haft en reglering av likström separat från växelström när samhället började elektrifieras? Eller borde man ha uppdaterat och förtydligat vad som redan gällde om hur det relaterade till det här nya?

Åter till AI. Vi har haft diverse AI-tekniker här och där i årtionden. Vad skulle vara annorlunda den här gången, 2023?

Få mig gärna att byta uppfattning.

Mer om orättvis AI