Компанія, що створила Claude, закликала пригальмувати розвиток ШІ: може вийти з-під контролю людини

ШІ-системи вже прискорюють розробку нових моделей і дедалі частіше беруть на себе завдання, які раніше виконували люди

Американська команія Anthropic запропонувала скоординоване глобальне уповільнення темпів створення передових систем штучного інтелекту. Про це йдеться в статті "Коли ШІ створює сам себе", оприлюдненій на сайті компанії-розробника Claude.

Автори статті – співзасновник Anthropic Джек Кларк та голова науково-дослідного The Anthropic Institute Марина Фаваро вважають, що нові великі мовні моделі можуть вийти з-під контролю людини.

"Наприкінці 2025 року код, написаний Claude в Anthropic, був дещо гіршим, ніж код, написаний людиною, сьогодні він приблизно дорівнює йому, і ми очікуємо, що протягом року він стане значно кращим", – йдеться у публікації.

За словами авторів, ШІ-системи дедалі частіше беруть на себе завдання, які раніше виконували люди. Якщо ця тенденція триватиме, може виникнути система, здатна автономно проєктувати і навчати своїх наступників. Такий сценарій автори називають рекурсивним самовдосконаленням.

Поки що цього не сталося і такий розвиток подій не є неминучим, наголошують в Anthropic. Однак, на їхню думку, такий перелом може настати раніше, ніж державні та громадські інститути будуть готові до нього. Станом на травень 2026 року понад 80% коду, який потрапляє до кодової бази Anthropic, написано Claude, зазначили у компанії.

Claude уже вміє проводити добре задані експерименти краще за людей, зазначається в статті. Наприклад, у задачі оптимізації коду для навчання невеликої моделі система досягла приблизно 52-разового прискорення, тоді як досвідченому досліднику вдавалося досягти приблизно 4-разового прискорення за кілька годин.

"Ми вважаємо, що для світу було б добре мати можливість загальмувати або тимчасово зупинити розвиток передового штучного інтелекту, щоб соціальні структури та дослідження сумісності зі штучним інтелектом могли йти в ногу зі швидкістю технологічного розвитку", – заявили автори.

З моменту заснування Anthropic позиціонує себе як одну із найвідкритіших компаній у питаннях потенційних ризиків штучного інтелекту. Компанія навіть вступала в публічну суперечку з Міністерством оборони США через побоювання, що її технології можуть використовуватися для масового стеження за американцями та створення автономних бойових систем.

"Я хвилююся за своїх дітей, якщо ми як суспільство не почнемо серйозну розмову про наслідки подальшого розвитку штучного інтелекту. Потенційні вигоди є величезними. Але є й ризики", – заявив Кларк в інтерв'ю програмі BBC Newsnight.

За його словами, одним із таких ризиків може стати серйозна перебудова економіки.

Особливу тривогу викликають так звані ШІ-агенти – автономні цифрові помічники, здатні самостійно виконувати рутинні завдання. Дехто побоюється, що вони зможуть замінити людей на низці робочих місць.

При цьому Кларк вважає, що люди з розвиненою уявою та здатністю генерувати нові ідеї можуть отримати перевагу перед штучним інтелектом.

• За останній рік найбільші технологічні компанії провели масові скорочення персоналу. Часто вони пояснювали скорочення тим, що інструменти на основі ШІ вже здатні виконувати роботу, яку робили раніше сотні або навіть тисячі програмістів.
  Із січня технологічна галузь США оголосила про намір скоротити на 65% більше робочих місць, ніж роком раніше.
• За останній рік в Україні було скорочено 17% айтівців, причому найбільше звільнень припало на Senior-спеціалістів та Lead-фахівців. Основними причинами звільнень стали оптимізація витрат, фінансові труднощі компаній, а також завершення або зупинка проєктів. Майже половина звільнених не очікували втрати роботи.