Când unii dintre cei mai cunoscuți oameni din lume semnează o scrisoare deschisă prin care cer o pauză în dezvoltarea inteligenței artificiale, cât de teamă ar trebui să-ți fie?
Povestim sâmbătă, de la ora 12:00, la Vocea Nației, cu Dragoș Pătraru.
În episodul 183 din Vocea Nației: – Ar trebui să ne gândim la inteligența artificială ca la energia nucleară. Nu știm dacă va fi folosită ca să alimenteze cu energie miliarde de oameni sau ca să-i anihileze cu o bombă atomică.
Un cercetător care lucra în 2016 la un program de inteligență artificială folosit pentru jocuri pe calculator și-a dat seama că programul lui se blocase într-o cursă pentru bărci. În loc să încerce să câștige cursa, programul lui se învârtea într-un cerc.
De ce?
– Problema nu e că inteligența artificială vrea să ne facă rău în mod intenționat, problema e că poate să devine mult prea competentă și mult prea bună în a-și atinge scopurile, chiar dacă acele scopuri nu sunt aliniate cu scopurile oamenilor.
– Ce este experimentul camerei chinezești?
– Cum învățăm roboții să fie etici? Și mai ales, cum îi învățăm să fie etici și morali când încă nu știm nici noi prea bine ce înseamnă asta? ___ Resurse:
– Scrisoare deschisă: https://futureoflife.org/open-letter/…
– The Alignment Problem – Brian Christian, https://brianchristian.org/the-alignm…
– AI cu conștiință sau doar un chatbot care a învățat filosofie?
– https://mindcraftstories.ro/ai-roboti… ___
media advertising
