Штучний інтелект та його еволюція: як алгоритми можуть розвиватися без людського втручання.

Вчені закликають заборонити ШІ самостійно копіювати себе (фото: Magnific)

Дослідники з Університету Етвеша Лоранда та Королівської фламандської академії наук Бельгії опублікували дослідження, в якому попереджають про появу нового типу систем – еволюційного ШІ (eAI). На відміну від сучасних моделей, такі нейронні мережі зможуть проходити через процеси, схожі на біологічну еволюцію.

Чому еволюція ШІ становить загрозу?

Вчені вважають, що здатність ШІ до самовдосконалення та копіювання запустить дарвінівський природний відбір – лише для алгоритмів.

“Основна проблема полягає в тому, що еволюція природним чином сприяє виникненню “егоїстичних” учасників процесу. Це значно підвищує ризик втрати узгодженості між цілями ШІ та потребами людей”, – зазначають дослідники.

Ключові ризики

Конкуренція за ресурси: самореплікуючі системи (ті, що здатні до самокопіювання) рано чи пізно почнуть використовувати енергію та обчислювальні потужності, необхідні для виживання людини;

Супротив контролю: будь-яка спроба обмежити розмноження ШІ призведе до природного відбору тих версій алгоритмів, які найкраще вміють обходити захист (аналогічно стійкості бактерій до антибіотиків);

Здатність до маніпуляцій: високий інтелект не є обов’язковою умовою для завдання шкоди. Біологи наводять приклад вірусу сказу, який ефективно маніпулює поведінкою ссавців для власного розповсюдження і несе пряму загрозу існуванню живих видів.

Швидкість, що перевищує біологію

Вчені зазначають, що еволюція ШІ буде значно швидшою за біологічну. На відміну від живих організмів, eAI (еволюційна нейронна мережа) зможе миттєво успадковувати набуті риси та вдосконалювати свій код цілеспрямовано, не чекаючи випадкових мутацій. Саме це робить процес змін алгоритмів майже непередбачуваним.

Чи можливо захиститися?

Дослідники закликають ввести суворе регулювання, поки технологія не перейшла в стадію активного розвитку. Основна рекомендація – встановлення абсолютного і повного контролю людини над процесом “репродукції” будь-яких ШІ-систем.

“Якщо ми не вживаємо заходів, то можемо стати свідками нового великого переходу в еволюції, де штучний інтелект замінить або почне домінувати над людьми. Наше майбутнє під загрозою”, – застерігає співавтор дослідження професор Ерш Сатмари.