Хрещений батько ШІ дав тривожний прогноз про майбутнє людства: це гірше за "ядерку"
www.rbc.ua
Sat, 03 May 2025 21:25:07 +0300
Нобелівський лауреат і піонер у галузі штучного інтелекту Джеффрі Хінтон зробив тривожну заяву про майбутнє ШІ.
За його словами, люди недооцінюють ризики, які несе швидкий розвиток цієї технології.
Він порівняв ШІ з тигреням, яке може вирости та знищити свого господаря.
Яке важливе попередження для людства зробив хрещений батько ШІ, розповідає РБКУкраїна проєкт Styler з посиланням на CBS.
Джеффрі Хінтон піонер ШІ з Нобелівською премією Минулого року 77річний Джеффрі Хінтон прокинувся серед ночі з неочікуваною новиною йому присуджено Нобелівську премію з фізики.
Не за відкриття в астрофізиці чи квантовій механіці, а за фундаментальну роботу, яка лягла в основу сучасних великих мовних моделей технологій, що живлять ChatGPT, Gemini та інші ШІсистеми.
Хінтон не приховує, що спочатку він мріяв зрозуміти, як працює людський мозок.
Замість цього він допоміг створити щось, що може почати діяти самостійно.
Я мріяв отримати нагороду за те, що зрозумів, як працює мозок.
Але я так і не зрозумів, як він працює і все одно отримав премію, з іронією зазначив він.
Люди ще не зрозуміли, що гряде Хінтон не відкидає користі від ШІ він вважає, що технологія здатна змінити медицину, освіту й навіть допомогти в боротьбі зі змінами клімату.
Але водночас він відверто стурбований неконтрольованим розвитком.
Свої побоювання Хінтон озвучив у інтервю.
За його словами, ймовірність того, що ШІ візьме контроль над людством, становить 1020.
І це не сценарій голлівудського бойовика, а реальний ризик, про який він говорить із серйозністю.
Ми, як людина, яка виростила милого тигреня.
Але чи можемо ми бути впевнені, що коли він виросте, не спробує нас убити каже науковець.
Він вважає, що ШІ матиме трансформаційний вплив на світ, але при цьому ми навіть не уявляємо, у що ця технологія може перетворитися.
Його застереження перегукуються з побоюваннями й інших, таких, як Сундар Пічаї, Ілон Маск і Сем Альтман.
Проте Хінтон критикує ці компанії за лицемірство мовляв, вони дбають не про безпеку, а про прибутки.
ШІкомпанії не хочуть контролю.
І в цьому найбільша загроза Хінтон особливо розчарований Google, яка, за його словами, зрадила власні принципи щодо етики й участі у військових проєктах ШІ.
Якщо подивитися на те, що зараз роблять великі компанії а вони лобіюють зменшення регулювання ШІ.
Його й так вже майже немає, але вони хочуть ще менше, каже Хінтон.
Він наголошує великі компанії лобіюють зменшення й так слабкого регулювання.
Компанії повинні віддавати третину обчислювальних ресурсів на безпеку.
А виділяють у кращому разі крихти каже Хінтон.
У минулому, попереджаючи про свою оцінку ймовірності того, що штучний інтелект захопить і витіснить своїх творців, він сказав, що людству ніколи раніше не доводилося мати справу з речами, розумнішими за нас самих.
Скільки прикладів ви знаєте, коли розумніша річ контролюється менш розумною Таких прикладів мало, сказав науковець і додав, що темпи розвитку ШІ йдуть набагато швидше, ніж він очікував.
CBS запитала у провідних лабораторій ШІ, скільки ресурсів вони реально витрачають на безпеку.
Жодна не дала чіткої відповіді.
Усі заявили, що безпека важлива, але відкрито критикували будьякі спроби серйозного законодавчого втручання.
Вас може зацікавити Вчені визначили, коли Земля стане непридатною для життя людей скільки ще лишилося планеті Що може ймовірно призвести до кінця людства війна, кліматична катастрофа чи штучний інтелект Яким може бути майбутнє людства завдяки ШІ 4 головних ризики
Останні новини
більше новин