Úgy vélik, hogy jelenleg senki nem tudja megérteni azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt.
A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterséges intelligencia fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt.
Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója. A dokumentum szerint a fejlesztőknek átmeneti, 6 hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence – AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje,
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután „biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető".
Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt. A mesterséges intelligencia fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte
amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ.
A cégek közötti verseny főszereplői az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián. A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni. A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterséges intelligencia eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.
A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterséges intelligencia fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt.
Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója. A dokumentum szerint a fejlesztőknek átmeneti, 6 hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence – AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje,
amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután „biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető".
Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt. A mesterséges intelligencia fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte
fegyverkezési verseny alakult ki, miután az OpenAI megjelentette új chatbotját a ChatGPT-t,
amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ.
A cégek közötti verseny főszereplői az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián. A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni. A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterséges intelligencia eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.
0 Megjegyzések