I creatori di ChatGPT stanno lottando per trovare un antidoto

La startup che ha creato ChatGPT, il software di successo in grado di generare articoli così come poesie o saggi, sta lottando per sviluppare un programma in grado di rilevare se un testo è scritto da un’intelligenza artificiale (AI).

Martedì OpenAI ha lanciato un nuovo strumento ad accesso aperto per aiutare gli esseri umani a distinguere tra testi prodotti utilizzando software basati su AI (come ChatGPT, ma non solo) e quelli scritti da persone.

Deve consentire di determinare, ad esempio, se le tesi sono state scritte da un programma per computer e non da uno studente o se ci si rivolge a un essere umano oa un “chatbot” (chatbot) in un sistema di messaggistica online.

Ma OpenAI avverte fin dall’inizio nel suo comunicato stampa che “al momento è impossibile rilevare in modo affidabile tutto il testo scritto utilizzando l’IA”.

Secondo la sua stessa valutazione, il nuovo software identifica correttamente il 26% di tutto il testo scritto dagli algoritmi come “probabilmente scritto utilizzando l’intelligenza artificiale”.

E nel 9% dei casi classifica i testi scritti da esseri umani come scritti dall’intelligenza artificiale.

È “più affidabile” rispetto alla versione precedente, afferma OpenAI, ma rimane “molto inaffidabile” nei testi brevi (meno di 1.000 caratteri) ed è utilizzato al meglio in inglese.

Oltre all’ironia di questa situazione, la posta in gioco è alta.

Molti esperti temono che le tecnologie di intelligenza artificiale generativa, come ChatGPT, vengano utilizzate in particolare per automatizzare la creazione di truffe su larga scala o campagne di disinformazione super credibili.

Strumenti simili con vari gradi di affidabilità sono già stati creati, come GPTZero, sviluppato dallo studente della Princeton University Edward Tian.

OpenAI, una startup co-fondata nel 2015 a San Francisco da Elon Musk, il capo di Tesla che ha lasciato l’azienda nel 2018, ha lanciato ChatGPT lo scorso novembre.

Facile da usare, la piattaforma si presenta come un chatbot e produce testi sorprendenti su una semplice richiesta. Da allora, è stato un successo clamoroso, portato da una grande copertura mediatica.

Precedentemente conosciuta solo in circoli ristretti, la società disponeva di due programmi di creazione automatica, DALL-E per la generazione di immagini e GPT-3 per la generazione di testo (ChatGPT è basato su GPT-3).

Ha ricevuto 1 miliardo di dollari da Microsoft nel 2019 e ha appena stretto un nuovo accordo con il gigante IT multimiliardario.