Tisdag den 26 september gav Olle Häggström professor i matematisk statistik
vid Chalmers Tekniska Högskola och ledamot i Vetenskapsakademien, en före-
läsning om AI-utvecklingen och dess samhällskonsekvenser.
Den nu pågående AI-utvecklingen är en omvälvande utveckling på gott eller ont.
Olle Häggström anser att en etisk princip borde vara ”Om du är i färd att bygga
en grej som du tror kan utplåna mänskligheten så sluta med det- även om du
tror att grannen ska bygga en.” att jämföra med Oppenheimer i etiska frågor.
Att hantera risker med AI borde vara en global prioritet vid sidan av andra risker
som pandemier och kärnvapenkrig. Enligt Olle Häggström finns det idag fem
ledande personer inom AI ex.v Dario och Daniela Amodei, Sam Altman, Demis
Hassabis, Geoffry Hinton och Yoshua Bengio. Dessa personer har olika bak-
grunder och olika synpunkter på utvecklingen av AI. En förhoppning av Olle
Häggström är att dessa personer skapar förutsättningar för samarbete.
GPT-4 som släpptes för ett halvår sedan är en kraftfull avancerad språk-
modell som finns att hämta på nätet. Textfönstret i GPT-4 har säkerhets-
testats, en kontroll av att programmet inte kan producera sig själv och ta
egna initiativ. Initiativ som skaparna inte har tänkt sig. Det som skrämmer
mest med AI är att GPT 4 ger möjlighet till social manipulation och bedrägliga
beteenden. Olle Häggström menar att språkmodeller kan övertyga människor
att göra saker till exempel att komma förbi säkerhetssystem. Utvecklingen gå
just nu mycket fort och drivs på av en kapplöpning mellan olika företag.
Olle Häggström har skrivit boken ”Tänkande maskiner”
Ann Ahlenius och Britt-Marie Beijron