Google DeepMind створила інститут для безпечного розвитку загального ШІ

Google DeepMind запустила DeepMind Institute – майданчик для дослідження безпечного розвитку загального штучного інтелекту, його впливу на суспільство та можливих способів регулювання.

Новий інститут має об’єднати дослідників Google, Google DeepMind і ширшої наукової спільноти. Автори наголошують, що рішення про майбутнє AGI не повинні ухвалювати лише технологічні компанії – до дискусії також мають долучитися уряди, представники гуманітарних наук, мистецтва та суспільства.

AGI називають систему, яка матиме весь набір когнітивних здібностей людського мозку. Сучасні моделі ще можуть помилятися у простих завданнях і не демонструють достатньої послідовності та творчості, однак у DeepMind очікують, що ці обмеження незабаром можуть зникнути.

Інститут очолили співзасновник DeepMind Шейн Легг, президент Google з досліджень, лабораторій, технологій і суспільства Джеймс Маніка та голова Google DeepMind Деміс Хассабіс. Легг також став головним редактором платформи.

Разом із запуском інститут опублікував чотири матеріали. Вони присвячені економічній політиці в епоху AGI, збереженню зрозумілого для людей процесу міркування моделей, принципам суспільного розвитку та системі оцінювання передових моделей ШІ.

Дослідники Рохін Шах та Анка Драган попереджають, що майбутні моделі можуть перейти до ефективніших, але непрозорих способів міркування. Це ускладнить виявлення обману, прихованих цілей та спроб обійти обмеження. Вони пропонують оцінювати прозорість моделей, перевіряти методи їхнього навчання та зберігати архітектури, які дозволяють аналізувати ланцюжок міркувань.

Деміс Хассабіс окремо запропонував створити у США орган зі стандартизації передового ШІ. Спочатку розробники могли б добровільно передавати моделі на перевірку за 30 днів до випуску, а згодом проходження тестів могло б стати обов’язковою умовою виходу моделей на американський ринок.

До перевірок пропонують включити оцінювання ризиків у кібербезпеці, біології та інших небезпечних сферах, а також пошук ознак обману й обходу захисних механізмів. Якщо заходи безпеки не встигатимуть за розвитком технології, орган зможе рекомендувати скоординоване уповільнення розробки передових моделей.

Матеріали DeepMind Institute відображають позиції окремих авторів і не вважаються офіційною позицією Google. Платформа допускає суперечливі погляди та перегляд висновків у міру появи нових даних.