Un nuovo studio sfida i timori sui LLM, dimostrando la limitata capacità di acquisire abilità pericolose senza istruzioni umane.
Molte persone si preoccupano che la tecnologia dell’IA come ChatGPT svilupperà alla fine la capacità di ragionare in modi che ci minacciano, ma è davvero possibile? (cono0430/Shutterstock.com)
Un recente studio ha messo in discussione la capacità di ChatGPT e altri grandi modelli linguistici (LLM) di apprendere autonomamente o acquisire nuove abilità senza l’intervento umano, mettendo in dubbio l’idea che possano rappresentare rischi esistenziali per l’umanità.
I LLM sono versioni avanzate dei modelli linguistici preaddestrati (PLM), addestrati su enormi quantità di dati web. Questo accesso a una vasta mole di dati li rende in grado di comprendere e generare linguaggio naturale e altri contenuti utili per svariati compiti. Tuttavia, possono anche manifestare abilità emergenti, ovvero capacità non addestrate esplicitamente, come ad esempio la comprensione di situazioni sociali.
Alcuni esperti ritengono che queste abilità emergenti potrebbero includere capacità potenzialmente pericolose, come il ragionamento e la pianificazione, che potrebbero costituire una minaccia per l’umanità. Tuttavia, un nuovo studio ha dimostrato che i
