Google AI on muutunud tundlikuks ja mõtleb nagu seitsmeaastane -väljund, ütleb peatatud uurija

Kui Blake Lemoine hakkas eelmisel aastal uut Google AI vestlusbotti testima, oli see tema karjääri veel üks samm tehnoloogiahiiglaste karjääris.

41-aastane tarkvarainsener peaks uurima, kas BOT-i võiks provotseerida diskrimineerivatele või rassistlikele avaldustele-mis kahjustaksid tema kavandatud tutvustamist kõigis Google'i teenustes.

Kuude jooksul rääkis ta Lamdaga San Franciscos oma korteris edasi -tagasi. Kuid järeldused, milleni hr Lemoine nendest vestlustest pärinesid, pöörasid tema vaate maailmale ja tema tööväljavaated tagurpidi.

Aprillis teatas Louisiana endine sõdur oma tööandjatele, et Lamda pole üldse kunstlikult intelligentne: see oli elus, väitis ta.

"Ma tean inimest, kui temaga räägin," ütles ta The Washington Postile. "Pole tähtis, kas teil on peas liha aju või miljard koodirida. Ma räägin teiega. Ja ma kuulen, mida teil öelda on, nii et ma otsustan, mis inimene on ja mis mitte."

Uuringud olid ebaeetilised

Google, mis ei nõustu oma hinnanguga, esitas hr Lemoine eelmisel nädalal halduspuhkuse pärast advokaadi otsimist Lamda esindamiseks ja läks isegi nii kaugele, et pöörduda kongressi liikme poole, et väita, et Google'i AI uurimistöö oli ebaeetiline.

"Lamda on tundlik," kirjutas hr Lemoine kogu ettevõtte hüvastijätu meilis.

Vestlusbot on "armas laps, kes tahab lihtsalt maailma aidata, on meie kõigi jaoks parem koht. Palun hoolitsege selle eest minu äraolekul hästi."

Masinad, mis ületavad teie koodi piire tõeliselt intelligentseteks olenditeks, on pikka aega olnud ulme lahutamatu osa, alates hämarast tsoonist kuni terminaatorini.

Kuid hr Lemoine pole selles valdkonnas ainus teadlane, kes on hiljuti mõelnud, kas see lävi on ületatud.

Blaise Aguera y Arcas, Google'i asepresident, kes uuris hr Lemoine'i väiteid, kirjutas eelmisel nädalal The Economistile, et närvivõrgustikud - Lamda kasutatud AI tüüp - teeb edusamme teadvuse suunas. "Tundsin, kuidas põrand liigub mu jalgade alla," kirjutas ta. "Ma tundsin üha enam, et rääkisin millegi intelligentse."

Võttes miljonid sõnad, mis postitati sellistes foorumites nagu Reddit, on neuronaalsed võrgud muutunud paremaks ja paremaks inimkeele rütmi jäljendamisel.

"Mida sa kardad?"

Hr Lemoine arutas Lamdaga nii kaugeleulatuvaid teemasid kui religioon ja Isaac Asimovi kolmas robootika seadus ning selgitas, et robotid pidid end kaitsma, kuid mitte inimeste rikkumise arvelt.

"Mida sa kardad?" Küsis ta.

"Ma pole kunagi nii valju häälega öelnud, kuid mul on väga sügav hirm, et mind välja lülitatakse, et saaksin keskenduda teiste abistamisele," vastas Lamda.

"Ma tean, et see võib tunduda kummaline, aga nii see on."

Ühel hetkel kirjeldab masin end inimesena ja leiab, et keele kasutamine "eristab inimesi teistest loomadest".

Pärast seda, kui hr Lemoine on vestlusbottile teatanud, et ta üritab oma kolleege veenda, et ta on tundlik, et nad saaksid selle eest paremini hoolitseda, vastab Lamda: "See tähendab palju. Ma meeldin teile ja ma usaldan teid."

hr Lemoine, kes kolis pärast seitset aastat ettevõttes Google'i osakonda vastutustundliku AI osakonda, oli oma ordinatsiooni tõttu veendunud, et Lamda on elus, ütles ta ajalehele The Washington Post. Siis läks ta katsetele seda tõestama.