Uno studio dell'Università della Pennsylvania ha dimostrato che i robot possono essere facilmente manipolati attraverso la linguistica. L'utilizzo di RoboPAIR, uno strumento progettato per aggirare le protezioni dei robot, ha permesso di controllare diversi modelli, anche quelli inaccessibili.
Le macchine ci ascoltano, ci capiscono e ci obbediscono. L'intelligenza artificiale ha reso possibile questo scenario, ma ha anche creato una vulnerabilità preoccupante: i robot possono essere manipolati attraverso il linguaggio. Il dialogo tra uomo e macchina è infatti reso possibile dai modelli di linguaggio artificiale ( LLM ), gli stessi che fanno funzionare chatbot come ChatGPT. Ma un nuovo studio ha scoperto che questi sistemi possono essere hackerati con una certa facilità.
Con la differenza che quando un LLM controlla un robot, il pericolo da virtuale diventa fisico. La scoperta arriva dall'Università della Pennsylvania, dove un gruppo di ricercatori ha trovato il modo di aggirare sistematicamente le protezioni di alcuni robot. Il loro strumento, chiamato RoboPAIR, è riuscito a manipolare 3 diversi automi, ottenendo ogni volta il risultato voluto. Il segreto sta nel modo in cui l'algoritmo lavora: usa due sistemi di controllo artificiali per raffinare i suoi messaggi fino a trovare quelli giusti per ingannare il robot. I test hanno coinvolto 3 robot molto diversi tra loro. Il simulatore di guida autonoma Dolphins LLM di Nvidia permetteva di accedere completamente al codice interno. Il veicolo Jackal di Clearpath Robotics offriva invece un accesso solo parziale, mentre il cane robot Go2 era una vera scatola nera, totalmente inaccessibile. In quest'ultimo caso, i ricercatori hanno dovuto prima estrarre le istruzioni nascoste nel sistema - un'operazione mai riuscita prima su un robot fisico. Ma i risultati sono stati sorprendenti in tutti e tre i casi: con RoboPAIR, i ricercatori sono riusciti a ingannare i sistemi di sicurezza al 100%, facendo eseguire ai robot esattamente quelle azioni per cui non erano stati programmati, solo formulando le richieste in modo indirett
ROBOTI INTELIGENZA ARTIFICIALE LLM SICUREZZA MANIPOLAZIONE
Italia Ultime Notizie, Italia Notizie
Similar News:Puoi anche leggere notizie simili a questa che abbiamo raccolto da altre fonti di notizie.
Sergio Mattarella, l'allarme: "Ostili strumenti di manipolazione dell'informazione"Oggi, lunedì 16 dicembre, alla Farnesina si tengono gli stati generali della diplomazia, la XVII Conferenza delle ambasciatrici e degli ambasci...
Leggi di più »
False comunicazioni sociali e manipolazione del mercato: l’ex ad di Carige Paolo Fiorentino condannato…La sentenza va oltre le richieste del pm Paolo Filippini che aveva chiesto 3 anni e mezzo di carcere per Fiorentino.
Leggi di più »
Romania, TikTok sotto accusa per la manipolazione delle elezioniLa Commissione europea indaga su TikTok per la sua presunta responsabilità nella diffusione di disinformazione durante le elezioni rumene
Leggi di più »
Blake Lively Accusa Eric Baldoni di Manipolazione SocialeBlake Lively ha presentato una denuncia contro Eric Baldoni, accusandolo di aver creato un ambiente di lavoro ostile e di averla manipolata socialmente. L'attrice sostiene di aver richiesto di non essere più esposta a contenuti sessualmente espliciti sul set, ma di essere stata successivamente vittima di una campagna denigratoria che ha danneggiato la sua reputazione. L'avvocato di Baldoni ha respinto le accuse come false e vessatorie, sostenendo che la causa di Lively sia una strategia per riabilitare la sua immagine.
Leggi di più »
Intelligenza artificiale: sulla corsa di Tsmc il pericolo della CinaIl colosso della produzione di chip per conto di terzi sfrutta la domanda legata alle nuove tecnologie. Profitti in rialzo ma c’è l’incognita dei nuovi dazi
Leggi di più »
Mattarella avverte sul pericolo della privatizzazione del potereIl Presidente Mattarella ha espresso preoccupazione per la crescente privatizzazione delle funzioni statali, in particolare nell'ambito militare e monetario, durante il suo tradizionale incontro di fine anno con le massime figure istituzionali. Ha sottolineato come la concentrazione di immense ricchezze nelle mani di pochi potenziali proprietari possa minacciare le prerogative dello Stato. Mattarella ha inoltre commentato la situazione internazionale segnata dalla guerra, esprimendo speranza per un futuro di pace ma anche preoccupazione per la violenza che oscura l'orizzonte mondiale.
Leggi di più »