Ett felaktigt svar från en AI var nära att få stora konsekvenser. USA:s militär förberedde sig för att borda ett kinesiskt fartyg efter att en AI felaktigt pekat ut lasten som delar till ett kärnvapenprogram.
En amerikansk analytiker hade använt en AI-chattbot för att gå igenom information om fartyget. AI:n blandade information från öppna källor med hemliga underrättelser och kom fram till att lasten kunde kopplas till kärnvapen. Men AI:n hade helt enkelt fel. Amerikansk militär hann börja förbereda en bordning och hade flygplan i luften.
Innan insatsen genomfördes kontrollerade mer erfarna analytiker uppgifterna en gång till och upptäckte misstaget. USA:s militär använder allt mer generativ AI och händelsen blir en ganska tydlig påminnelse om problemet med att lita för mycket på AI. Ett påhittat svar i ChatGPT är en sak. Ett påhittat kärnvapenfynd som militären agerar på är något helt annat.