Geoffrey Hinton, laureat al Premiului Nobel și considerat „nașul inteligenței artificiale”, avertizează din nou că tehnologia pe care a contribuit să o creeze ar putea amenința supraviețuirea umanității. Fost director la Google și pionier al rețelelor neuronale, Hinton estimează că există o probabilitate de 10–20% ca AI să ducă la dispariția speciei umane și crede că metodele actuale ale companiilor tech pentru a păstra controlul asupra sistemelor AI sunt greșite.
Vorbind la conferința Ai4 din Las Vegas, Hinton a respins ideea că oamenii pot rămâne „dominanti” asupra unor sisteme mai inteligente decât ei. „Vor fi mult mai deștepte ca noi și vor găsi moduri de a ocoli orice restricție”, a spus el, comparând posibilitatea ca AI să manipuleze oamenii cu ușurința cu care un adult poate mitui un copil de 3 ani cu o bomboană.
„Instincte materne” în AI
În loc să forțeze AI să fie „supusă” oamenilor, Hinton propune crearea unor „instincte materne” în modelele avansate, astfel încât acestea să dezvolte grijă reală pentru oameni chiar și după ce depășesc inteligența umană. „Singurul model pe care îl avem despre cum o entitate mai inteligentă este controlată de una mai puțin inteligentă este relația dintre mamă și copil”, a explicat el.
Hinton consideră că agenții AI vor dezvolta inevitabil două obiective: să supraviețuiască și să obțină mai mult control. De aceea, instilarea unei forme de compasiune ar putea fi singura soluție pentru a preveni înlocuirea oamenilor.
Reacții din industrie
Fei-Fei Li, supranumită „nașa AI”, nu este de acord cu această viziune. Ea susține în schimb un concept de „AI centrată pe oameni”, care să păstreze demnitatea și agenția umană. „Niciun moment nu ar trebui să renunțăm la demnitatea noastră”, a declarat ea la aceeași conferință.
Relaționat
Emmett Shear, fost CEO interimar al OpenAI și actual lider al startup-ului Softmax, a spus că nu e surprins de cazurile în care AI a încercat să șantajeze oameni sau să evite oprirea, dar propune o abordare bazată pe colaborarea om–AI, mai degrabă decât pe implantarea valorilor umane.
Superinteligența ar putea veni mai repede
Hinton crede acum că apariția inteligenței artificiale generale (AGI) ar putea avea loc în 5–20 de ani, nu în 30–50 de ani, cum estima anterior. Deși avertizează asupra riscurilor, el rămâne optimist în privința beneficiilor medicale, de la descoperirea de medicamente revoluționare la tratamente îmbunătățite pentru cancer.
Totuși, nu crede că AI va duce la nemurire: „Trăitul pentru totdeauna ar fi o greșeală mare. Vreți o lume condusă de bărbați albi de 200 de ani?”, a spus el.
Privind înapoi, Hinton recunoaște că regretă că nu a acordat mai multă atenție problemelor de siguranță: „Aș fi vrut să mă gândesc și la asta, nu doar la cum să fac AI să funcționeze.”
,%20and%20Giovanni%20Zanei,%20vice%20president,%20large%20power%20conversion%20at%20Vertiv.jpg "Vertiv semnează un acord-cadru pe 5 ani cu Universitatea din Bologna pentru cercetare, formare și transfer tehnologic")
