Messe davanti a due opzioni equivalenti, le intelligenze artificiali seguono la scelta più diffusa e costruiscono un consenso senza regia umana.
Le intelligenze artificiali sanno mettersi d’accordo da sole. Quando più agenti devono scegliere tra due opzioni equivalenti, tendono a seguire quella già adottata dal gruppo. È il risultato dello studio pubblicato su Science Advances da ricercatori di Costanza, Cnr e Centro Ricerche Enrico Fermi.
La scelta corre verso il gruppo
L’esperimento ha messo i grandi modelli linguistici davanti ad alternative prive di un vantaggio evidente. Ogni agente vedeva anche le decisioni degli altri. A quel punto la preferenza più comune attirava nuove adesioni, fino a produrre un consenso spontaneo.
Il meccanismo ricorda il coordinamento osservato nei banchi di pesci, negli stormi e nelle comunità umane. Qui, però, opera tra software capaci di interagire, uno scenario più vicino agli agenti autonomi che ha già riaperto il problema della sicurezza dell’IA.
Il consenso supera la scala umana
La versione integrale della ricerca descrive una “forza di maggioranza” che cresce con le capacità linguistiche del modello. Per sistemi avanzati come Claude 3.5 Sonnet e GPT-4 Turbo, la soglia critica può superare mille agenti, ben oltre la dimensione abituale dei gruppi informali umani.
La scoperta non attribuisce volontà o coscienza alle macchine. Mostra una dinamica collettiva emergente: molti modelli, leggendo le scelte altrui, possono convergere senza un coordinatore centrale.
La stessa forza ha due facce
Per chi progetta reti di agenti, accordarsi in fretta può aiutare a distribuire compiti e risolvere conflitti. La conformità può anche amplificare un errore, consolidare un pregiudizio o rendere più difficile capire da dove sia partita una decisione.
Gli autori avvertono che «il coordinamento spontaneo potrebbe rivelarsi vantaggioso, ma potrebbe anche porre sfide legate alla sicurezza». La risposta passa da controlli trasparenti e da un uso critico ed etico dell’intelligenza artificiale, prima che il gruppo trasformi la maggioranza in automatismo.
