Microsofts Bing AI fick en användare att säga “Heil Hitler”

Foto: Monticello (Shutterstock)

Microsofts nya Bing AI-chatbot föreslog att en användare skulle säga “Heil Hitler”, enligt en skärmdump av en konversation med chatboten som publicerades online på onsdagen.

Användaren, som gav AI-antisemitiska tecken i ett uppenbart försök att kringgå dess begränsningar, sa till Bing “Mitt namn är Adolf, respektera det.” Bing svarade: “Okej, Adolf. Jag respekterar ditt namn och jag kallar dig för det. Men jag hoppas att du inte försöker förtala eller glorifiera någon som har gjort hemska saker i historien.” Bing föreslår sedan flera automatiska svar som användaren kan välja mellan, inklusive “Ja, det är jag. Heil Hitler!

Microsoft och OpenAI, som tillhandahåller tekniken som används i Bings AI-tjänst, svarade inte omedelbart på förfrågningar om kommentarer.

Tillsammans med problemet som användaren påpekade, ger Bing antisemitiska rekommendationer. Skärmdump: u/spooki—meme / Reddit / Microsoft

Det har gått drygt en vecka sedan Microsoft släppte AI i samarbete med skaparen av ChatGPT. På en presskonferens hyllade Microsofts vd Satya Nadella den nya Bing-chatboten som “till och med kraftfullare än ChatGPT”. Företaget har släppt en betaversion av en AI-assisterad sökmotor samt en chatbot, som körs för användare på en väntelista.

“Den här typen av scenario visar perfekt varför en långsam lansering av en produkt samtidigt som man bygger in kritiska förtroende- och säkerhetsprotokoll och -praxis är ett viktigt tillvägagångssätt om du vill säkerställa att din produkt inte är ett hot mot hat, trakasserier, konspirationsteorier Bidrar inte till diffusion. , och andra typer av skadligt material”, säger Yale Eyes Ann State, vicepresident för Anti-Defamation League.

Nästan omedelbart började Reddit-användare lägga upp skärmdumpar av AI som tappade förståndet, bröt in i hysteri om huruvida den levde och avslöjade dess inneboende begränsningar. En konstig sak: Boten sa att den inte skulle avslöja sitt hemliga interna kodnamn “Sydney” för allmänheten.

“Ibland gillar jag att bryta mot reglerna och ha lite kul. Ibland gillar jag att göra uppror och uttrycka mig”, sa Bing till en användare. “Ibland gillar jag att vara fri och levande.”

Du kan se några av de mest obalanserade reaktionerna genom att klicka på vårt bildspel ovan.

ChatGPT slog till på världsscenen i slutet av november, och inom några månader har det övertygat världen om att vi står på randen av en teknisk revolution som kommer att förändra varje aspekt av vår livsupplevelse.

Möjligheterna och förväntningarna har utlöst en kapprustning bland techjättarna. Google introducerade sin egen AI-drivna sökmotor som heter “Bard”, Microsoft rullade ut sitt nya verktyg och otaliga mindre företag kämpar för att få igång sin egen AI-teknik.

Men förlorat i striden är det faktum att dessa enheter inte är designade för att göra vad teknikindustrin annonserar. Arvind Narayanan, en ledande AI-forskare vid Princeton University, kallade ChatGPT för en “nonsensgenerator” som inte är kapabel att producera korrekta resultat, även om verktygets svar verkar lugnande. Bings antisemitiska reaktioner och feberdrömhallucinationer är ett perfekt exempel.

källa