Співзасновник Anthropic Крістофер Ола висловив думку, що розвиток штучного інтелекту не слід залишати виключно під контролем технологічних компаній. Він закликав до більш активного контролю з боку держав, релігійних лідерів та суспільства. Таку заяву Ола зробив у Ватикані під час презентації першої енцикліки Папи Римського Лева XIV, повідомляє Reuters.
Документ під назвою Magnifica humanitas (“Величне людство”) став першою енциклікою понтифіка, присвяченою темі штучного інтелекту. Під час свого виступу на презентації Ола зазначив, що існує “реальна ймовірність” того, що штучний інтелект витіснить людську працю “в дуже великих масштабах”. За його словами, у такому випадку підтримка людей, які втратять роботу, стане “моральним імперативом історичних масштабів”.
“Кожна провідна лабораторія штучного інтелекту… функціонує в межах певного набору стимулів та обмежень, які іноді можуть суперечити етичним нормам”, — зазначив Ола та додав, що навіть дослідники з добрими намірами підлягають впливу комерційного та геополітичного тиску.
Співзасновник Anthropic підкреслив, що саме через це потрібен зовнішній контроль за розвитком технологій. Він також позитивно оцінив активну участь Католицької церкви у дискусії про наслідки швидкого розвитку штучного інтелекту.
Ола визначив три основні проблеми, які, на його думку, потребують термінової уваги. Йдеться про ризик масової втрати робочих місць, нерівномірний розподіл вигод від штучного інтелекту між країнами та складність інтерпретації поведінки сучасних систем штучного інтелекту.
“Питання, які піднімає штучний інтелект, є значно більшими, ніж просто питання для спільноти дослідників ШІ”, — підкреслив Ола та закликав до “серйозних, вдумливих критиків”, які могли б впливати на діяльність технологічних компаній і допомагати спрямовувати розвиток штучного інтелекту у безпечному напрямку.
Компанія Anthropic позиціонує себе як така, що найбільше піклується про безпеку впровадження сучасних технологій штучного інтелекту. На початку року вона мала конфлікт з Пентагоном через обмеження використання її ШІ-моделі Claude для масового спостереження та створення автономної зброї. Нещодавно Anthropic також представила новий потужний інструмент для кібербезпеки Mythos, доступ до якого отримали лише 50 організацій через потенційні кіберзагрози.