Minnesota har blivit den första amerikanska delstaten att införa en lag som riktar sig mot AI-genererat sexuellt material skapat utan en persons godkännande. Samtidigt har Elon Musks AI-bolag xAI gått till domstol för att försöka stoppa lagen, vilket kan få betydelse för framtidens reglering av artificiell intelligens.

Den nya lagen i Minnesota innebär att det blir förbjudet att använda AI för att skapa, sprida eller hantera pornografiska deepfakes av verkliga personer utan deras samtycke. Överträdelser kan leda till civilrättsliga böter på upp till 500 000 dollar.

Bakom lagen står en växande oro för att AI-teknik kan användas för att skada människor genom att skapa falska sexuella bilder och filmer. Kritiker menar att tekniken har gjort det enklare än någonsin att utsätta privatpersoner, offentliga personer och barn för digitala övergrepp.

Elon Musk och xAI tar strid mot lagen

Elon Musks företag xAI, som står bakom AI-tjänsten Grok, har stämt delstaten Minnesota. Företaget hävdar att lagen strider mot den amerikanska konstitutionens skydd för yttrandefrihet.

xAI säger att företaget inte motsätter sig ett förbud mot att sprida AI-genererade nakenbilder av riktiga personer utan samtycke. Däremot anser bolaget att lagen är så brett formulerad att den riskerar att rikta sig mot själva tekniken i stället för mot personer som faktiskt använder den för brottsliga syften.

Minnesotas politiska ledning försvarar lagen och menar att skyddet för människors integritet måste väga tyngre än företagens intressen.

Grok i centrum för debatten

Diskussionen har särskilt kommit att handla om AI-tjänsten Grok, som har fått kritik efter rapporter om att verktyget använts för att skapa sexualiserat och manipulerat bildmaterial.

Förespråkare för hårdare reglering menar att AI-utvecklingen har skapat ett nytt problemområde där lagstiftningen måste hinna ikapp tekniken. De pekar särskilt på risken att barn och kvinnor utsätts för allvarliga kränkningar genom material som sprids utan deras vetskap eller samtycke.

Samtidigt varnar yttrandefrihetsorganisationer för att alltför breda lagar kan få oönskade konsekvenser och även påverka satir, konst och politiska uttryck.

En internationell fråga

Frågan om AI-genererade nakenbilder är inte begränsad till USA. Även inom EU granskas hur AI-företag hanterar riskerna med olagligt innehåll.

Fallet i Minnesota kan därför bli betydelsefullt långt utanför delstatens gränser. Domstolens beslut kan påverka hur framtida lagar utformas och hur balansen mellan teknisk innovation, yttrandefrihet och skydd för enskilda personer ska se ut.

En första begäran från xAI om att stoppa lagen tillfälligt har avslagits av en federal domare. Den fortsatta rättsprocessen väntas ge vägledning kring hur långt lagstiftare kan gå för att begränsa missbruk av AI-teknik.

https://www.nrk.no/artikkel/minnesota-til-musk-ses-i-retten-ditt-kryp-1524035