Кибериммунитет: Доверенный искусственный интеллект

ческую безопасность. Мощность взаимодействия информационных систем постоянно растёт и приходит к такому виду, что человек не способен осознать складывающийся информационный мир.

Если раньше технологическими процессами управляли специалисты, то сегодня — информационные системы, и большая часть соответствующих процессов отражается в окружающей нас среде. Это создаёт необходимость делать системы максимально безопасными. Количество киберугроз постоянно увеличивается: согласно статистике «Лаборатории Касперского», в 1998 году ежедневно регистрировалось 50 уникальных угроз, в 2008 г. — 15 000, а в 2021 г. — почти полмиллиона. Важно понимать, что речь идёт не о клонах и самомодификациях одного вируса, а о принципиально новых. Тем не менее, созданные компанией технологии кибербезопасности позволяют утверждать, что информационные технологии полностью защищены и предсказуемо работают как для их разработчиков, так и для потребителей. 

Проблемы безопасности информационных систем

Продукт изначально не защищён — он таким разрабатывается. Однако впоследствии на него накладываются антивирусы и прочие защитные технологии. Такой подход складывался на протяжении нескольких последних десятилетий. Почему это плохо? Ответ прост: подобный подход не позволяет обеспечить предопределённое функционирование систем — чем они сложнее, тем менее надёжна защита.

Основная концепция, которая актуальна для современных систем, такова: любое ПО, не предназначенное для систем обеспечения безопасности, должно предсказуемо работать в агрессивной среде. То есть информационные системы необходимо разбивать на домены безопасности и с каждым из них ассоциировать определённые свойства безопасности. При этом домены безопасности ставятся в такие условия, когда они не могут нарушить свойства безопасности системы в целом. Благодаря этому можно значительно сократить сроки, квалификацию разработчиков и стоимость верификации систем.

Как же сделать любую систему более защищённой? «Защитная цепочка» выглядит следующим образом:

• Защитные средства, реализованные на уровне процессора, должны использоваться на уровне устройства.
• Средства, предоставляемые устройством, — на уровне операционной системы.
• Средства, предоставляемые операционной системой, — на уровне приложений.  

Проблемы искусственного интеллекта

Не существует метрики, отражающей качество работы искусственного интеллекта: например, для систем классификации характерны как корректные, так и ложные срабатывания. К сожалению, на данном этапе это изменить нельзя, поскольку сам ИИ не позволяет понять причину принятия того или иного решения. Это связано с тем, что нейросеть обучается на большом количестве данных, на основании которых и принимает решения. Проанализировать признаки невероятно сложно. 

Хотите узнать больше об искусственном интеллекте и проблемах кибербезопасности? Посмотрите полную версию лекции Андрея Духвалова!