„Az AI keresztapja” Geoffrey Hinton kilép a Google-nél, hogy figyelmeztessen a technológia veszélyeire

  Google Google logó látható a Googleplexen.

A mesterséges intelligenciával kapcsolatos riasztások népszerű időtöltéssé váltak a ChatGPT-korszakban, amelyet olyan magas rangú személyiségek vettek igénybe, mint az iparosok. Elon Musk , baloldali értelmiségi Noam Chomsky és a 99 éves nyugdíjas államférfi Henry Kissinger .

De az AI-kutatói közösség bennfenteseinek aggályai vonzzák a különös figyelmet. Úttörő kutató és az úgynevezett „AI keresztapja” Geoffrey Hinton felmondott a Google-nál betöltött szerepével, hogy szabadabban beszélhessen az általa létrehozott technológia veszélyeiről.

  Elon Musk

Több évtizedes pályafutása során Hinton úttörő munkája a mély tanulás és a neurális hálózatok terén segített lerakni a ma látható mesterségesintelligencia-technológia nagy részét.

Az elmúlt hónapokban rohamosan indult az AI bevezetése. A San Francisco-i székhelyű startup, az OpenAI, a ChatGPT mögött álló Microsoft által támogatott vállalat márciusban vezette be legújabb mesterséges intelligencia modelljét, a GPT-4-et. Más technológiai óriáscégek fektettek be egymással versengő eszközökbe – köztük a Google „Bard”-jába.

Az AI chatbotok bizonyos veszélyei „elég ijesztőek”, Hinton mondta a BBC . „Jelenleg nem okosabbak nálunk, amennyire meg tudom állapítani. De azt hiszem, hamarosan megtörténhetnek.”

Egy interjúban MIT Technology Review , Hinton rámutatott azokra a „rossz szereplőkre”, amelyek olyan módon használhatják a mesterséges intelligenciát, amely káros hatással lehet a társadalomra – például a választások manipulálása vagy az erőszak felbujtása.

A 75 éves Hinton azt állítja, hogy azért vonult vissza a Google-tól, hogy nyíltan beszélhessen a lehetséges kockázatokról, mint valaki, aki már nem dolgozik a technológiai óriásnál.

„Az AI biztonsági kérdéseiről szeretnék beszélni anélkül, hogy aggódnom kellene amiatt, hogy az hogyan kölcsönhatásba lép a Google üzletével” – mondta. MIT Technology Review . 'Amíg a Google fizet, nem tehetem.'

  Guy Oseary és Ashton Kutcher

A távozásának bejelentése óta Hinton fenntartja, hogy a Google „nagyon felelősségteljesen járt el” az AI-val kapcsolatban. Ő mondta MIT Technology Review hogy van „sok jó dolog a Google-ban”, amiről szeretne beszélni – de ezek a megjegyzések „sokkal hitelesebbek lennének, ha már nem vagyok a Google-nál”.

A Google megerősítette, hogy Hinton 10 év után a torontói Google Research csapat felügyelete után visszavonult.

Hinton kedden visszautasította a további megjegyzéseket, de azt mondta, hogy a szerdai konferencián többet fog erről beszélni.

A mesterséges intelligencia helyzetéről szóló vita középpontjában az áll, hogy az elsődleges veszélyek a jövőben vagy a jelenben vannak-e. Az egyik oldalon az emberi intelligenciát felülmúló számítógépek által okozott egzisztenciális kockázat hipotetikus forgatókönyvei. Másrészt aggodalomra ad okot az automatizált technológia, amelyet már széles körben alkalmaznak a vállalkozások és a kormányok, és valós károkat okozhat.

„Jó vagy nem, a chatbot pillanata az, hogy az AI-t nemzeti és nemzetközi beszélgetéssé tette, amely nem csak mesterséges intelligencia-szakértőket és fejlesztőket vesz részt” – mondta. Lark Nelson , aki februárig vezette a Fehér Ház Tudományos és Technológiai Politikai Hivatalát, és annak törekvését, hogy irányelveket dolgozzon ki az AI-eszközök felelősségteljes használatával kapcsolatban.

  Sir Lucian Grainge

„A mesterséges intelligencia már nem elvont, és azt hiszem, van egy ilyen nyitásunk, hogy új beszélgetést folytassunk arról, hogy milyennek akarunk egy demokratikus jövőt és egy nem kizsákmányoló jövőt a technológiával” – mondta Nelson egy múlt hónapban adott interjúban. .

Számos mesterséges intelligenciakutató már régóta aggodalmának adott hangot az AI-rendszerek faji, nemi és egyéb formái miatti elfogultság miatt, ideértve a szövegalapú, nagy nyelvi modelleket, amelyeket az emberi írások hatalmas tárháza alapján képeznek ki, és felerősíthetik a társadalomban meglévő diszkriminációt.

„Egy lépést hátra kell lépnünk, és valóban át kell gondolnunk, kinek az igényei állnak a kockázatokról szóló vita középpontjában” – mondta Sarah Myers West , a nonprofit AI Now Institute ügyvezető igazgatója. „Az AI-rendszerek által manapság okozott károk valóban nem egyenletesen oszlanak el. Ez nagyon súlyosbítja az egyenlőtlenség meglévő mintáit.”

Hinton egyike volt annak a három mesterséges intelligencia úttörőnek, akik 2019-ben elnyerték a Turing-díjat, amely kitüntetés a Nobel-díj technológiai ipar változataként vált ismertté. A másik két nyertes, Joshua Bengio és Yann LeCun , szintén aggodalmukat fejezték ki a mesterséges intelligencia jövőjével kapcsolatban.

Felkapott az At Foot oldalon

Bengio, a Montreali Egyetem professzora március végén írt alá egy petíciót, amelyben arra szólította fel a technológiai vállalatokat, hogy állapodjanak meg hat hónapos szüneteltetésben a hatékony mesterségesintelligencia-rendszerek fejlesztésében, míg LeCun, a Meta Facebook anyavállalat vezető mesterségesintelligencia-tudósa további javaslatot tett. optimista megközelítés.

Oszd Meg A Barátaiddal

Népszerű Kategóriák: Média , latin , Szikla , Kultúra , Jellemzők , Koncertek , Díjak , Zene , Ország , Vélemények ,

Rólunk

Other Side of 25 A Legforróbb Híreket A Kedvenc Csillagok Hírességeiről - Az Interjúkat, Az Exkluzívokat, A Legfrissebb Híreket, A Szórakoztató Híreket És A Kedvenc Televíziós Műsorok Áttekintését Tartalmazzuk.