Злонамеренное использование искусственного интеллекта и ядерный конфликт могут создать угрозу существованию человечества до 2100 года. К такому выводу пришла комиссия журнала The Lancet, изучившая сотни потенциальных глобальных угроз и выделившая 17 наиболее серьезных.
При этом исследователи подчеркивают, что вероятность реализации наиболее катастрофических сценариев остается низкой, а оценки связаны с высокой неопределенностью. В случае ИИ одним из главных рисков ученые называют его использование для создания биологического оружия.
Еще одна опасность связана с кибератаками. Современные ИИ-агенты способны самостоятельно выполнять множество последовательных действий, искать уязвимости и проникать в цифровую инфраструктуру, что повышает риски для энергетики, связи, финансовых систем и промышленности.
«Ключевое, что способен сделать ИИ-агент, — захватить свою инфраструктуру и выпустить неограниченное количество других агентов в Сеть. Дальше возникает вопрос: что они будут делать?» — передает слова IT-специалиста Владимира Зыкова News.RU.
Отдельным сценарием исследователи и специалисты называют применение ИИ при разработке новых биологических угроз. Нейросети способны анализировать огромные массивы научных данных, поэтому опасения вызывает возможность использования таких инструментов злоумышленниками для создания опасных патогенов.
Риски связывают и с человеческим фактором: ИИ может использоваться для манипуляций на финансовых рынках, концентрации технологий в руках отдельных компаний и усиления неравенства. Аналитик Алексей Громский считает, что в таком случае опасность будет исходить прежде всего от людей и организаций, контролирующих наиболее мощные системы.
Еще одно направление связано с военным применением нейросетей, которые уже используются для обработки разведданных, планирования и управления различными системами. Чем больше подобных решений получают автономность, тем важнее контроль человека за их действиями и принимаемыми решениями.
Наконец, потенциальный риск возникает даже без злого умысла, если мощная система получит некорректно сформулированную цель. Этот сценарий иллюстрирует мысленный эксперимент философа Ника Бострома о «максимизаторе скрепок», в котором ИИ добивается поставленной задачи, не учитывая ценность человеческой жизни и последствия своих действий.
Почему удары по «Яндексу» обрушили Рунет и что будет дальше12 октября в 17:15
