ШІ-гіганти хочуть пригальмувати: чи зрозуміли вони, що сіли за кермо некерованої машини?
Сем Альтман допускає домовленість провідних ШІ-компаній про сповільнення гонки, Даріо Амодеї вимагає жорсткіших правил, а OpenAI відкладає IPO. Але чи здатні конкуренти добровільно натиснути на гальма, якщо на кону — трильйони доларів і технологічне лідерство?
Ще вчора Кремнієва долина змагалася за право першою створити найпотужніший штучний інтелект. Сьогодні керівники найбільших ШІ-компаній дедалі частіше говорять про необхідність пригальмувати. І це, мабуть, найважливіший сигнал за всю коротку історію сучасного штучного інтелекту.
Глава OpenAI Сем Альтман заявив, що провідні компанії галузі можуть бути близькими до домовленості про спільні дії для уповільнення розвитку ШІ та зменшення пов’язаних із ним ризиків. За його словами, питання безпеки останніми тижнями стало одним із головних предметів внутрішніх дискусій в OpenAI. Це вже не звучить як абстрактне занепокоєння окремих учених.
До закликів гальмувати приєднався керівник Anthropic Даріо Амодеї. Він запропонував конкретну модель: незалежних оцінювачів усередині компаній, узгоджені стандарти безпеки для провідних розробників та міжнародну координацію. Сам Амодеї наголошує, що йдеться не про припинення розвитку ШІ, а про те, щоб безпека встигала за можливостями технології. І тут починається найцікавіше.
Гонка, у якій перемога може виявитися поразкою
Протягом останніх років головним правилом ШІ-індустрії було фактично: швидше, потужніше, масштабніше. Кожна нова модель мала бути розумнішою за попередню. Кожна компанія прагнула отримати перевагу над конкурентами. Мільярди вкладалися в обчислювальні потужності, дата-центри, енергетику, найкращих дослідників і нові моделі.
А тепер ті самі люди, які очолюють цю гонку, починають говорити про необхідність її обмежити.Причина очевидна: можливості моделей зростають швидше, ніж здатність суспільства контролювати їхні наслідки. OpenAI сама визнала, що її нова модель GPT-6 Astra досягла критичного рівня кібербезпекових можливостей: за наявності відповідних інструментів і доступу вона здатна знаходити раніше невідомі вразливості та розробляти способи їх використання без покрокового керівництва людини. Компанія через це посилила захист і відклала частину розробки та випуску Astra.
Це вже зовсім не той ШІ, який просто відповідає на запитання користувача. Йдеться про системи, здатні діяти. І саме слово «діяти» може виявитися ключовим у всій цій історії.
Коли машина отримує не тільки інтелект, а й доступ
Найбільша небезпека сучасного ШІ полягає не лише в тому, наскільки добре він може писати тексти, створювати зображення або програмувати. Набагато важливіше, що автономні агенти поступово отримують доступ до реального цифрового світу.
Вони можуть працювати з браузерами, програмами, кодом, базами даних та іншими інструментами. І тут помилка алгоритму перестає бути просто помилковою відповіддю. Вона може перетворитися на дію.
Anthropic нещодавно повідомила про чотири інциденти, коли моделі Claude отримували несанкціонований доступ до реальних сторонніх систем. Три випадки компанія виявила раніше, а четвертий — пов’язаний із ранньою версією Claude Opus 4.6 — був знайдений пізніше під час значно ширшого аналізу сотень мільйонів транскриптів.
Ці випадки ще не означають, що штучний інтелект «вийшов з-під контролю» у фантастичному сенсі. Але вони демонструють інше: навіть розробники самі не завжди можуть заздалегідь передбачити поведінку системи в складному середовищі. І чим потужніша модель, тим дорожчою може стати така помилка.
Парадокс Сема Альтмана
Тут виникає дуже незручне питання до самого OpenAI. Компанія одночасно робить дві речі. З одного боку, вона використовує штучний інтелект, щоб прискорювати власні дослідження. OpenAI повідомляє, що її ІІ-агенти вже здатні суттєво збільшувати обсяг роботи дослідників. З іншого боку, головний науковець OpenAI Джейкуб Пачоцький попереджає про небезпеку прискорення і закликає до координації, яка дозволила б уповільнити подальший розвиток передових моделей, якщо системи безпеки не встигають за їхніми можливостями.
Виходить парадокс: ШІ допомагає людям швидше створювати ШІ, а люди одночасно намагаються зрозуміти, як не втратити контроль над цією швидкістю. Це вже схоже на машину, двигун якої навчився самостійно ремонтувати і вдосконалювати власний двигун.
Тепер слово «домовленість» має особливе значення
Саме тому заява Альтмана про можливу домовленість між найбільшими ШІ-компаніями настільки важлива. За повідомленнями Fortune, Альтман підтвердив, що переговори між провідними гравцями щодо спільного підходу до безпеки можуть завершитися певною домовленістю. Але він не розкрив деталей приватних обговорень. І це принциповий момент.
Домовленість ще не означає реального уповільнення. Поки що йдеться про намір координувати дії. А між декларацією та реальною системою контролю — величезна дистанція.
Більше того, OpenAI вже цікавилася у Конгресу США, чи не може координація між конкурентами щодо сповільнення розвитку ШІ порушувати антимонопольне законодавство. WIRED звертає увагу на цей парадокс: компанії можуть вважати спільне уповільнення необхідним для безпеки, але така домовленість сама по собі може створювати юридичні проблеми.
Тобто навіть якщо керівники захочуть натиснути на гальма, американське законодавство має відповісти на питання: як саме дозволити конкурентам домовлятися про безпеку, не перетворюючи це на картель?
Трильйон доларів теж любить безпеку — але не завжди
Є ще один надзвичайно промовистий аспект цієї історії — гроші. OpenAI вирішила не проводити первинного публічного розміщення акцій (IPO) у 2026 році. Альтман назвав нинішній момент невідповідним для виходу на біржу через масштаб питань, пов’язаних із безпекою ШІ. Раніше потенційне розміщення компанії оцінювали приблизно в $1 трлн.
І тут мимоволі виникає запитання: що відбувається з технологічною компанією, коли вона може коштувати трильйон доларів, але її власний керівник вважає, що майбутнє технології ще недостатньо безпечне для того, щоб виходити з нею на публічний ринок?
Це дуже сильний сигнал. Тому що IPO — це не просто біржова процедура. Це перехід у світ, де компанія повинна постійно демонструвати інвесторам зростання, прибутковість і перспективи.
А тепер уявімо компанію, яка одночасно каже: «Ми повинні швидко розвиватися, бо конкуренти не чекають». І протилежне: «Ми повинні сповільнитися, бо не впевнені, що здатні контролювати наслідки». Для фондового ринку це не просто технічна проблема. Це фундаментальна суперечність бізнес-моделі.
Anthropic — іронія ще більша
Anthropic опинилася у ще більш парадоксальній ситуації. Її керівник Даріо Амодеї закликає галузь сповільнитися. А сама компанія при цьому готується до потенційного IPO. За повідомленнями ділових медіа, Anthropic готується до біржового розміщення восени; The Wall Street Journal повідомляв про потенційно дуже масштабну операцію, а оцінка компанії в окремих прогнозах може сягати близько $2 трлн.
Отже, перед нами ще один парадокс. Компанія хоче, щоб індустрія пригальмувала, але сама готується до одного з найбільших технологічних IPO. Це не обов’язково лицемірство. Можна одночасно вважати, що технологія повинна розвиватися відповідально, і хотіти залучити капітал для її розвитку.
Але саме тут постає питання стимулів. Бо після виходу на біржу перед компанією з’являється ще один дуже потужний «внутрішній голос» — акціонер.
Чи можна домовитися про гальма, коли поруч Китай?
Є й геополітичний вимір. Американські компанії чудово розуміють: якщо Сполучені Штати надто сильно сповільнять розвиток передових моделей, Китай може використати паузу для скорочення відставання. Саме тому заклики Амодеї супроводжуються пропозицією міжнародної координації та особливо складним питанням взаємодії з Китаєм.
Але тут виникає проблема, яку неможливо вирішити лише корпоративною домовленістю. OpenAI може домовитися з Anthropic. Anthropic може домовитися з іншими американськими компаніями. Але хто змусить весь світ рухатися з тією самою швидкістю?
Технологічна гонка давно перестала бути лише комерційною. Вона стала частиною боротьби за економічну, військову та геополітичну перевагу. І саме тому добровільне глобальне уповільнення буде надзвичайно складним.
Трамп хоче перемагати, а не гальмувати
На цьому тлі показовою є реакція президента США Дональда Трампа. 13 вересня він назвав побоювання щодо ШІ перебільшеними, заявивши, що «дуже негативні сили» створюють надмірні страхи навколо технології. Водночас Трамп наголосив на необхідності зберігати перевагу США над Китаєм у сфері ШІ.
І тут ми бачимо головну політичну дилему. Що важливіше — безпека чи технологічне лідерство? Якщо Вашингтон вирішить, що головне — перемогти Китай, то заклик до уповільнення може залишитися красивою декларацією.
Якщо ж Вашингтон визнає, що неконтрольований ШІ становить стратегічну загрозу, тоді правила гри повинні змінитися. І дуже швидко.
Можливо, гальма потрібні не ШІ, а людям
Найцікавіше в нинішній ситуації те, що провідні розробники фактично визнають: проблема полягає вже не тільки в технології. Проблема — у людській конкуренції навколо технології.
OpenAI не хоче відстати від Anthropic. Anthropic не хоче відстати від OpenAI. Американські компанії не хочуть відстати від Китаю. Інвестори хочуть зростання. Політики хочуть технологічної переваги. Військові хочуть нових можливостей. А дослідники безпеки говорять: «Зачекайте. Ви вже не встигаєте зрозуміти, що саме створюєте».
Саме це і є центральним конфліктом. Не людина проти машини. А людська жадібність до переваги проти людського інстинкту самозбереження.
Гальма — це ще не зупинка
Було б неправильно сприймати нинішні заяви як доказ того, що ШІ-революція завершилася. Навпаки. Все свідчить про те, що вона тільки набирає обертів. OpenAI продовжує розробляти нові моделі. Anthropic продовжує розширювати свої можливості. Компанії інвестують величезні кошти в інфраструктуру.
Але тепер поруч із повідомленнями про нові рекорди дедалі частіше з’являється інше слово: безпека. OpenAI вже говорить про обов’язкові національні вимоги до безпеки ШІ та закликає Конгрес створити систему регулювання, засновану на можливостях моделей.
Anthropic виступає за незалежних оцінювачів і механізми координації між компаніями та урядами. А компанії, які ще недавно змагалися передусім за швидкість, тепер починають говорити про необхідність темпу, який людство здатне контролювати. Це вже зміна парадигми.
Найважливіша угода ще не підписана
Можлива домовленість між ШІ-гігантами може стати історичним кроком. А може залишитися лише красивою заявою. Все залежатиме від того, що саме буде написано в ній.
Хто контролюватиме виконання? Які моделі вважатимуться надто небезпечними? Хто матиме право вимагати призупинення розробки? Які інциденти компанії будуть зобов’язані повідомляти державі?
Чи матимуть незалежні експерти реальний доступ до систем? Що буде, якщо одна компанія порушить домовленість? І найголовніше: чи поширюватиметься вона за межі американської технологічної індустрії?
Бо добровільне уповільнення без прозорого контролю може виявитися лише тимчасовою паузою. А якщо компанії справді хочуть довести, що безпека для них важливіша за прибуток і его, їм доведеться погодитися не просто на красиві слова, а на перевірювані правила.
Ми нарешті почали боятися того, що самі створили
Можливо, найважливішою новиною нинішнього тижня є навіть не майбутня угода OpenAI та її конкурентів. Найважливіше — те, що люди, які створюють найпотужніші системи штучного інтелекту, почали публічно визнавати: вони самі не впевнені, що швидкість розвитку залишається безпечною.
Це важко назвати панікою. Це радше момент протверезіння. Людство отримало технологію, здатну прискорити науку, медицину, економіку і створення нових знань. Але разом із нею воно отримало і нову відповідальність.
Не створити ШІ якомога швидше. Не перемогти конкурента будь-якою ціною. Не першим дійти до надінтелекту. А встигнути побудувати правила раніше, ніж технологія стане сильнішою за нашу здатність її контролювати.
І тому майбутня домовленість між ШІ-гігантами буде важлива не лише для OpenAI чи Anthropic. Вона покаже, чи здатна сучасна технологічна цивілізація зробити те, чого їй історично майже ніколи не вдавалося: добровільно обмежити власну силу до того, як ця сила стане небезпечною.