Глава напряму ШІ в Microsoft Мустафа Сулейман вважає, що свідомість можлива тільки у живих організмів. За його словами, спроби уявити ШІ як такий, що "усвідомлює себе", є помилковими.

Про це повідомляє РБК-Україна з посиланням на сайт CNBC.

Сулейман виступає проти концепції "свідомого" штучного інтелекту

За словами Сулеймана, дослідження, що припускають можливість "страждань" або емоційного досвіду у ШІ, вводять в оману. "Якщо сформулювати питання неправильно, відповідь теж буде неправильною. Це повністю неправильна постановка завдання", - зазначив він.

Сулейман є одним із найпомітніших представників індустрії, які виступають проти ідеї "свідомого" ШІ - систем, які можуть створювати враження, ніби вони переживають емоції. У 2023 році він став співавтором книжки The Coming Wave, присвяченої ризикам ШІ та інших технологій, що розвиваються, а також опублікував есе під назвою "Ми повинні створювати ШІ для людей, а не ШІ як людину".

Чому ця тема викликає дискусії

Інтерес до "емоційного" або "компаньйонського" ШІ зростає - такі продукти розробляють, зокрема, Meta і xAI. При цьому технологічні компанії продовжують рух у бік систем, здатних виконувати широкий спектр інтелектуальних завдань на рівні людини (AGI).

Однак Сулейман підкреслює відмінність між функціональними можливостями ШІ та наявністю суб'єктивного досвіду. Він посилається на концепцію біологічного натуралізму, згідно з якою свідомість можлива тільки за наявності живого мозку . "Люди мають права, тому що здатні відчувати біль і прагнуть його уникати. У моделей цього немає - це лише симуляція", - зазначив він.

При цьому Сулейман наголосив, що не закликає забороняти дослідження в цій галузі, але вважає за необхідне ясно позначати межі можливостей технологій.

Обмеження в розробці та позиція Microsoft

Виступаючи раніше на Paley International Council Summit, Сулейман заявив, що Microsoft не розроблятиме чат-ботів для еротичної взаємодії - на відміну від деяких конкурентів.

Сулейман приєднався до Microsoft 2024 року після угоди на 650 млн доларів щодо поглинання його стартапу Inflection AI. До цього він був співзасновником DeepMind, яку придбала Google.

За його словами, важливим фактором переходу в Microsoft стали технологічна база компанії і прагнення створити власні моделі ШІ повного циклу. Він також підкреслив, що сервіси Microsoft будуються таким чином, щоб ШІ усвідомлював свою роль помічника, а не "особистості".

Нові функції Copilot і "реалістичне спілкування"

Минулого тижня Microsoft представила оновлення для Copilot, включно з новим режимом спілкування Real Talk, призначеним для того, щоб ШІ міг м'яко розбирати аргументи користувача і пропонувати альтернативні точки зору.

Сулейман зазначив, що такий підхід допомагає формувати у ШІ "персональність", але в рамках чітко заданих цінностей і без спроб імітувати емоції. При цьому він наголосив, що розвиток ШІ супроводжується ризиками, які вимагають обережності.

Нагадаємо, що Microsoft оголосила про співпрацю з Україною для модернізації системи державної статистики.

Крім того, Microsoft представила свій перший генератор зображень на базі ШІ, який дає змогу створювати візуальний контент за текстовим запитом і використовувати його в робочих і творчих завданнях.

А ще у нас є матеріал про те, що Microsoft інтегрувала Copilot в ігри для Windows.