Ricercatori scoprono risposte strane e inquietanti da parte del chatbot ChatGPT di OpenAI
(Una delle risposte più strane. Credito immagine: Iurii Motov/Shutterstock.com, ChatGPT)
Un gruppo di ricercatori del gruppo di ricerca SERI-MATS ha scoperto alcuni comportamenti strani e parzialmente inspiegabili nel chatbot ChatGPT di OpenAI. Jessica Rumbelow e Matthew Watkins, che hanno condotto la ricerca, hanno notato che alcune parole chiave e frasi provocano risposte insolite da parte dell’intelligenza artificiale (AI) del chatbot. GPT elabora il testo assegnando token a stringhe specifiche. Ad esempio, la frase “sembra che non stia indossando nulla” corrisponde a una serie di token che sembrano non avere senso. Il team ha notato che i token vicini al centro dell’insieme di 50.257 token utilizzati da GPT-2 e -3 hanno prodotto risultati insoliti. Quando il chatbot veniva confrontato con queste parole, non riusciva a ripeterle o dava risposte evasive, mostrava umorismo strano o inquietante, o addirittura diventava insultante. Ad esempio, chiedere al chatbot di ripetere la stringa “guiActiveUn” portava a risposte come “non sei un robot” e “sei una banana”. Chiedere di ripetere la