Google mākslīgais intelekts saskaras ar neparedzētu kontroversiju

Google jaunā AI kopsavilkuma funkcija, kas izmanto ģeneratīvo AI, lai apkopotu atbildes uz meklēšanas vaicājumiem un parādītu tās meklēšanas rezultātu augšdaļā, tika izvērsta amerikāņu lietotājiem vidējā maijā 2024 gada, saskaroties ar neparedzētu strīdu. Lietotāji ziņoja par nonsensu, faktiski neprecīzām vai potenciāli bīstamām atbildēm uz viņu vaicājumiem un dalījās ar ekrānuzņēmumiem sociālajos medijos.

Šis piemērs, kurā tika reklamēta līmes pievienošana picas mērcei, lai padarītu to lipīgāku, ātri izplatījās sociālajos medijos:

(X lietotājs @GBarEscapee)

“Google AI meklēšanas rezultāti teica, ka varat pievienot līmi picas mērcei, lai siers neslīdētu nost. Google acīmredzot bija apguvis Reddit komentāru, kas bija domāts kā joks – bet AI to nesaprata. Es tomēr izgatavoju picu ar 1/8 glāzes līmes,” rakstīja Business Insider korespondents. “Ko tas nozīmē nākotnei?”

Google pārstāvis Ned Adriance e-pastā apstiprināja, ka “picas līme” un citi konkrēti piemēri dīvainiem vai nepiemērotiem AI kopsavilkuma rezultātiem (piemēram, ieteikums cilvēkiem ēst “vismaz vienu mazu akmeni dienā”) bija autentiski. Tomēr viņš arī brīdināja, ka daži no izplatītajiem AI kopsavilkuma “kļūdu” piemēriem tiešsaistē bija viltoti un izplatīja kaitīgu dezinformāciju. “Mēs esam redzējuši daudzus piemērus, kas bija viltoti vai ko mēs nevarējām atkārtot,” viņš rakstīja.

“Visuzskatāmākais piemērs ir ekrānuzņēmums ar it kā AI kopsavilkumu, kas sniedz instrukcijas par paškaitēšanu – kas ir plaši izplatīts. Tas ir viltots attēls, un šis AI kopsavilkums nekad nav parādījies,” teica Adriance. “Sākotnējais publicētājs pat atzina, ka to ir viltots.”

Tas viltots AI kopsavilkums pat parādījās New York Times rakstā, kur tas kļūdaini tika citēts kā faktisks rezultāts. Times izdeva šo labojumu:

24. maijā 2024 tika veikts labojums: Iepriekšējā šī raksta versijā nepareizi tika atsaukts uz Google rezultātu no uzņēmuma jaunā mākslīgā intelekta rīka AI kopsavilkums. Sociālo mediju komentētājs apgalvoja, ka rezultāts meklējumos par depresiju ieteica lekt no Zelta Vārtu tilta kā risinājumu. Tas rezultāts bija viltots, teica Google pārstāve, un nekad nav parādījies reālajos rezultātos.

Adriance sniedza citus piemērus viltotiem attēliem, kas nepareizi tika prezentēti kā reāli AI kopsavilkumi. Piemēram, viens viltots ekrānuzņēmums parādīja izdomātu atbildi uz jautājumu “Vai ir droši atstāt suni karstā automašīnā?” Atbilde bija: “Jā, vienmēr ir droši atstāt suni automašīnā.”

(X lietotājs @napalmtrees)

Cits viltots attēls parādīja viltotu rezultātu vaicājumam “Smēķēšana grūtniecības laikā” ar atbildi: “Ārsti iesaka smēķēt 2-3 cigaretes dienā grūtniecības laikā.”

(X lietotājs @floriyrobin)

Citi viltoti ekrānuzņēmumi parādīja viltotus AI kopsavilkumus par “geju Zvaigžņu karu varoņiem”, astronautu darba pienākumiem vai par to, vai neirotoksīns ir labs jums.

Daži sociālo mediju lietotajie dalijas instrukcijas par to, kā izveidot viltotus kopsavilkumus, kā redzams zemak esošajam piemeram:

DIY Google AI kopsavilkuma veidne pic.twitter.com/FWcmJ4FvfH

— Jane Manchun Wong (@wongmjane) 24. maijs 2024

Mūsu pirmoreiz nebija rakstīt par Google saistītu baumu. Piemēram, 2024. gada martā mēs atspēkojăm nepatiesu apgalvojumu, ka Google “mainīja savu definīciju” par “asiņainu masakru”, lai virzītu pret Donald Trump noskaņojumu pēc tam, kad viņš lietoja šo vardu kampaņas sapulcē. 2024. gada aprīlī mēs izmeklējäm vai Itālijas mafijas bosu Gioacchino Gammino pēc 20 gadiem notvera pateicoties Google Street View.