Последние достижения в области искусственного интеллекта (ИИ) поставили несколько этических дилемм, одна из которых заключается в том, сможет ли человечество управлять автономными машинами.

Международная группа исследователей предупредила о потенциальных рисках создания слишком мощного и автономного программного обеспечения. Используя серию теоретических расчетов, ученые пришли к выводу, что полностью контролировать такой ИИ невозможно. Ученые экспериментировали с двумя способами управления искусственным интеллектом. Один из них - изолировать ИИ от Сети и других устройств, ограничив контакт с внешним миром. Проблема заключается в том, что данный способ значительно снизит способность ИИ выполнять функции, для которых он был создан.

Другой способ заключается в разработке «теоретического алгоритма сдерживания», гарантирующего, что искусственный интеллект «не сможет причинить вред людям ни при каких обстоятельствах». Однако анализ существующей компьютерной парадигмы показал, что такой алгоритм не может быть создан. Ни один алгоритм не может определить, нанесет ли ИИ вред миру. Как отметили исследователи, человечество может даже не знать, когда появятся сверхразумные системы, потому что решение о том, обладает ли устройство интеллектом, превосходящим человеческий, находится в той же сфере, что и проблема сдерживания.

Эксперты из компании Trend Micro провели опрос IT-руководителей о роли ИИ в ближайшем будущем. Как показали результаты исследования, 41% IT-директоров считают, что ИИ заменит их роль к 2030 году.

Только 9% респондентов были уверены, что искусственный интеллект точно не заменит их работу в течение следующего десятилетия. Фактически, почти треть опрошенных (32%) заявила, что технология на базе ИИ в конечном итоге будет работать для полной автоматизации всей кибербезопасности без вмешательства человека.

Среди всех респондентов 19% считает, что к 2025 году злоумышленники, использующие ИИ для расширения своего арсенала, станут обычным явлением.

Около четверти (24%) опрошенных ИТ-руководителей также заявили, что к 2030 году доступ к информации будет привязан к биометрическим данным или данным ДНК, что сделает невозможным несанкционированный доступ.

В более краткосрочной перспективе респонденты также прогнозировали, что к 2025 году большинство организаций значительно сократят инвестиции в недвижимость, поскольку удаленная работа станет нормой (22%). В общенациональном масштабе 5G будет представлять собой полностью трансформированную сеть с инфраструктурой безопасности (21%), а безопасность будет самоуправляемой и автоматизированной с использованием ИИ (15%).