Ett nytt förslag från EU vill begränsa användandet av vissa typer av AI-system. Man vill kunna bestraffa de som bryter mot de nya reglerna med böter på upp till 6% av företagets omsättning. De höga bötesbeloppen visar att man verkligen menar allvar med regleringen. De områden som man benämner som högrisk när det kommer till användande av AI är bl.a:

  • Viktig infrastruktur
  • Ansökningar till universitet och högskolor
  • Låneansökningar

Några specifika användningsområden vill man förbjuda helt:

  • Sociala kreditsystem (liknande det som Kina infört)
  • Polisiärt användande av system med ansiktsigenkänning i realtid på offentliga platser (undantag ska gälla om det finns domstolsbeslut och det misstänkta brottet är grovt. Exempelvis mord, kidnappning, terrorism etc)
  • System som på en undermedveten nivå påverkar en persons beteenden på ett sätt som resulterar i fysisk eller psykisk skada.
  • System som utnyttjar en grupp eller person utifrån faktorer så som ålder och fysiskt eller psykisk funktionsnedsättning.

Vi tror att det här är brådskande. Vi är först på planeten med att föreslå det här regelverket

Margrethe Vestager, verkställande direktör, Europeiska kommissionen

Det finns även områden där AI används som anses vara förknippade med mindre risk men som ändå kan komma att påverkas av en lagändring. Ett exempel som tas upp är chatbottar som kan tvingas att informera om att de inte är en verklig person. Även deepfakes kan komma att omfattas av liknande märkning för att undvika missförstånd.

Andra områden där AI används kommer inte påverkas av regleringen. Dit hör exempelvis AI i spel för att skapa realistiska motståndare eller AI som ett verktyg för att slippa skräppost.

Det finns kritiska röster

Somliga menar att de nya lagarna kommer att begränsa möjligheterna för europeiska företag och startups att tävla mot deras kinesiska och amerikanska konkurrenter. Andra verkar vara lättade över att förslaget inte är så drastiskt som man befarat utan att det fortfarande finns nog med utrymme för en kreativ produktutveckling.

En lång väg till en färdig lag

För att lagförslaget ska bli verklighet måste det först godkännas av det Europeiska rådet och i EU-parlamentet. Processen är långsam och kan ta år. Samtidigt går utvecklingen inom AI fort och är något av ett rörligt mål för lagstiftarna. Vi får säkert anledning att återkomma i frågan.

Läs mer på Wall Street Journal