Ny nordisk rapport om AI och etik
Ingenjörskåren är beredd att ta ansvar för att bygga en ansvarsfull och etisk artificiell intelligens. Men då måste samhället, företagen och politiken också lyssna och bidra. Det är kontentan av en ny internationell rapport från den nordiska ingenjörsorganisationen ANE.
Vem har ansvaret för att AI inte bygger in diskriminering i algoritmerna, och vem tar det om AI skadar en människa eller vår miljö? AI ger ofantliga möjligheter men väcker också farhågor när det gäller bland annat jämställdhet och diskriminering.
I september 2020 ställdes ingenjörer och forskare från hela världen inför dessa och andra frågor om etiskt hållbar AI-utveckling vid ett hackathon i Köpenhamn. Resultatet har nu sammanställts i en ny rapport - ”Addressing Ethical Dilemmas in AI: Listening to Engineers”.
Vi måste ha tillit till AI om vi ska kunna använda dem för att lösa många av vår tids utmaningar på ett miljövänligt och smart sätt. För att bygga den tilliten behöver ingenjörerna bland annat utrymme och forum för diskussioner om AI-utvecklingen där de kan dela erfarenheter och goda exempel.
förbundsordförande Sveriges Ingenjörer/vice ordförande ANE
“Ditch the algorithm!” var ett av stridsropen 2020. Rädslan för att artificiell intelligens, AI, ska ta kommandot över oss utan att vi kan göra något för att protestera är uppe för debatt. Samtidigt lanseras artificiell intelligens, AI som en framtidslösning på manga av våra stora utmaningar. Utvecklingen går fort på områden som finans, klimatomställning och vaccinationslogistik.
– Våra medlemmar har en unik ställning när AI utvecklas och införs i och med att de både utvecklar systemen och själva arbetar med dem eller är föremål för dem, säger Ulrika Lindstrand, förbundsordförande Sveriges Ingenjörer/vice ordförande ANE.
I rapporten formulerar ingenjörerna både problemställningar och möjliga sätt att agera. De uttrycker också att de är beredda att ta sitt ansvar för hantera risker och problem men att det inte går att lösa på egen hand. Andra intressenter som politiken och näringsliv måste också träda in.
Hackathon:et arrangerades av Association of Nordic Engineers, (ANE), Data Ethics ThinkDoTank (DataEthics.eu), Institute of Electrical and Electronics Engineers (IEEE) och forskare från Department of Computer Science vid Köpenhamns universitet.
Några av rapportens rekommendationer
- Skapa ett ramverk för styrning av AI -utveckling och peka ut var ansvaret bör ligga
- Ta med alla intressenter och berörda i designen av olika system
- Utveckla och sprid goda exempel på hur vi tar hand om etiska dilemman vid AI-utveckling
- Skapa forum där ingenjörer kan få hjälp att definiera och diskutera etiska problem och lösningar
- Skapa bättre teknisk dokumentation och certifiering
- Skapa system för tydligare utprovning och testning av AI-system före sjösättning, och fortsätt testa genom hela systemens livscykel
