Il paradosso dei chatbot, più crescono più sbagliano

Danno risposte errate piuttosto che ammettere l'ignoranza (ANSA)

Più crescono e fanno esperienza, maggiore è il rischio che rispondano in modo errato piuttosto che ammettere di non saper rispondere: è uno dei grandi problemi dei grandi modelli linguistici che alimentano i chatbot, come ChatGpt e Llama.

Una delle importanti caratteristiche dei grandi modelli linguistici, o Llm, è la capacità di evolvere nel tempo integrando al loro interno nuove informazioni derivanti dalle interazioni con gli utenti o con gli sviluppatori, così da diventare teoricamente sempre più affidabili.

Secondo gli autori della ricerca i tre modelli inizialmente erano più propensi di oggi nell'ammettere di non poter rispondere a domande su questioni su cui non si sentivano certi di dare risposte accurate. Una prudenza che è andata gradualmente svanendo:"i modelli 'ingranditi' e modellati tendono a dare una risposta apparentemente sensata, ma sbagliata, molto più spesso rispetto al passato", affermano i ricercatori nell'articolo.

I chatbot"stanno diventando più bravi a fingere di essere informati", ha commentato Hernández-Orallo. Un problema che si aggiunge inoltre all'incapacità da parte degli umani di riuscire a notare questi errori, spesso perché ci si fida automaticamente della macchina. Il problema potrebbe essere parzialmente risolto impostando negli Llm una sorta di soglia di affidabilità più alta, al di sotto della quale l'IA non rilascia una risposta.

Abbiamo riassunto questa notizia in modo che tu possa leggerla velocemente. Se sei interessato alla notizia puoi leggere il testo completo qui. Leggi di più:

Agenzia_Ansa /  🏆 4. in İT

Italia Ultime Notizie, Italia Notizie

Similar News:Puoi anche leggere notizie simili a questa che abbiamo raccolto da altre fonti di notizie.

Usa2024: come l'America sceglie il suo presidenteAnsa - di Annalisa Rapanà. (ANSA)
Leggi di più »

L’IA italiana si incontra a Napoli per le sfide del futuroAlle 17 streaming su ANSA.it con l’AD Stefano De Alessandri (ANSA)
Leggi di più »

L'IA italiana si incontra a Napoli per FairIl 23 e 24 settembre, anche una sessione di ANSA (ANSA)
Leggi di più »

Intesa Sanpaolo, a Bologna nuova tappa di 'Imprese Vincenti'Martedì alle 17.30, in diretta streaming su ANSA.it (ANSA)
Leggi di più »

Barachini: 'La Commissione IA ha posto regole utili all'editoria'Intervenuto a Next Generation AI di ANSA a Fair a Napoli (ANSA)
Leggi di più »