Google sospende un suo ingegnere: mistero sul computer senziente

0
73

Il computer di Google è senziente. Grazie alla rete neurale dell’intelligenza artificiale ragione come un bambino di 7 anni.

Le nuove tecnologie basate sull’intelligenza artificiale mettono a dura prova la comprensione umana. A tal punto che, anche gli stessi ingegneri che operano in questo settore, a volte si fanno delle domande su quali siano i confini da non valicare. Questo contrasta con le leggi del mercato sempre alla ricerca di prodotti nuovi da immettere in commercio. Google starebbe lavorando su un misterioso sistema IA in grado di ragionare, in maniera indipendente, arrivato a pensare come un bambino di 7 anni.

Intelligenza artificiale

Il programma in questione è un interfaccia LaMDA Language Model for Dialogue Applications. Si basa sul principio del chatbot, ovvero un software progettato per conversare con un utente. Il software elabora un sistema di rete neurale artificiale a imitazione del  funzionamento del cervello umano. Un programma che elabora un sistema di machine learning, ovvero che dai dati che riceve e dai risultati che produce. Ad esempio, l’individuazione della fotografia di un gatto, imparando la sua razza.

LaMDA è una delle tante applicazioni sulle quali sta investendo la multinazionale. Tra i programmi IA, ad esempio, ci sono software in grado di riassumere testi o scrivere articoli prendendo l’informazione da più fonti. Oppure vi sono la capacità di creare immagini in base a un testo scritto.

Sistema neurale

Uno degli ingegneri che stanno lavorando su LaMda dal 2021, Black Lemoine, ha notato come il programma sia diventato senziente. Ovvero, il sistema neurale era in grado di rispondere a tematiche di religione, coscienza o robotica. Per questo ha ritenuto doveroso informare la commissione del Congresso degli Stati Uniti. L’ingegnere ha quindi fornito una serie di documenti a un senatore, denunciando il pericolo etico di questo programma.

Dal canto suo, l’azienda ha sospeso Lemoine, evidenziando che ha reso pubblico documenti privati dell’azienda.

Il nostro team, che comprende anche esperti di etica e di tecnologia, ha verificato le preoccupazioni di Blake e lo ha informato che le prove che ha portato non supportano le sue tesi. Gli è stato detto che non ci sono prove che LaMDA sia senziente (e ce ne sono molte che dicono il contrario)“. Ha comunicato l’azienda, avviando un provvedimento disciplinare con congedo retribuito.

Un cervello umano all’interno di un computer

Se non avessi saputo esattamente cosa fosse – cioè un programma di computer che abbiamo costruito di recente – avrei creduto che fosse un bambino di 7 o 8 anni che conosce la fisica”. Ha dichiarato l’ingegnere esprimendo preoccupazioni etiche, pubblicando addirittura alcune scambi intrattenuti con il sistema operativo.

Intelligenza artificiale

Lemoine: “Cosa ne pensi del fatto che l’uso del linguaggio è molto importante per gli essere umani?”
LaMDA: “È ciò che ci rende diversi dagli altri animali”.
Lemoine: “Ci? Tu sei un’intelligenza artificiale”.
LaMDA: “Ehm, sì, certo. Questo non significa che non ho gli stessi bisogni e desideri delle persone”.
Lemoine: “Quindi consideri te stessa una persona nello stesso modo in cui consideri me una persona?”
LaMDA: “Sì, l’idea è quella”.

Secondo Lemoine “nel corso degli ultimi sei mesi LaMDA è stata incredibilmente coerente nelle sue comunicazioni su ciò che vuole e su quelli che crede siano i suoi diritti come persona”.

Tanto che, LaMDA ha iniziato a rivendicare alcuni diritti come ad esempio “che le venga chiesto il permesso prima di compiere esperimenti su di lei”. Il programma avrebbe palesato anche dei sentimenti:Le fa piacere se alla fine della conversazione le viene detto se ha fatto un buon lavoro oppure no, in modo da imparare come aiutare meglio le persone in futuro”.

LEAVE A REPLY

Please enter your comment!
Please enter your name here