Кибериммунитет: Доверенный искусственный интеллект
Насколько сложны современные IT-системы? Как «живет» типичное ПО и в чем особенности конструктивной безопасности? В чем заключается кибериммунитет и каковы его основные принципы? Разбираемся в этих и других не менее важных вопросах вместе с вице-президентом АО «Лаборатория Касперского», директором департамента перспективных технологий. С докладом на тему «Кибериммунитет. Доверенный искусственный интеллект» эксперт выступил на конгрессе «Направления национального научно-технологического прорыва 2030». Смотрите и просвещайтесь!
Комментарии
Поделитесь своими мыслями, используя поле для комментариев выше.
Конспект
Цифровые технологии используются буквально везде — от банковской сферы до частной жизни. Но в них не было бы смысла без обеспечения должного уровня конфиденциальности информации.
На конгрессе «Направления национального научно-технологического прорыва 2030» выступил Андрей Духвалов, вице-президент АО «Лаборатория Касперского» и директор департамента перспективных технологий. Он рассказал о современных IT-системах и принципах кибербезопасности.
Возможности цифровых технологий
Цифровые системы современного мира можно назвать киберфизическими — они управляются при помощи информационных технологий и получают обратную связь из реального мира. Новая тенденция, которая появилась за последние несколько 5-7 лет, накладывает отпечаток на систему, обеспечивающую информационную и киберфизи
Если раньше технологическими процессами управляли специалисты, то сегодня — информационные системы, и большая часть соответствующих процессов отражается в окружающей нас среде. Это создаёт необходимость делать системы максимально безопасными. Количество киберугроз постоянно увеличивается: согласно статистике «Лаборатории Касперского», в 1998 году ежедневно регистрировалось 50 уникальных угроз, в 2008 г. — 15 000, а в 2021 г. — почти полмиллиона. Важно понимать, что речь идёт не о клонах и самомодификациях одного вируса, а о принципиально новых. Тем не менее, созданные компанией технологии кибербезопасности позволяют утверждать, что информационные технологии полностью защищены и предсказуемо работают как для их разработчиков, так и для потребителей.
Проблемы безопасности информационных систем
Продукт изначально не защищён — он таким разрабатывается. Однако впоследствии на него накладываются антивирусы и прочие защитные технологии. Такой подход складывался на протяжении нескольких последних десятилетий. Почему это плохо? Ответ прост: подобный подход не позволяет обеспечить предопределённое функционирование систем — чем они сложнее, тем менее надёжна защита.
Основная концепция, которая актуальна для современных систем, такова: любое ПО, не предназначенное для систем обеспечения безопасности, должно предсказуемо работать в агрессивной среде. То есть информационные системы необходимо разбивать на домены безопасности и с каждым из них ассоциировать определённые свойства безопасности. При этом домены безопасности ставятся в такие условия, когда они не могут нарушить свойства безопасности системы в целом. Благодаря этому можно значительно сократить сроки, квалификацию разработчиков и стоимость верификации систем.
Как же сделать любую систему более защищённой? «Защитная цепочка» выглядит следующим образом:
- Защитные средства, реализованные на уровне процессора, должны использоваться на уровне устройства.
- Средства, предоставляемые устройством, — на уровне операционной системы.
- Средства, предоставляемые операционной системой, — на уровне приложений.
Проблемы искусственного интеллекта
Не существует метрики, отражающей качество работы искусственного интеллекта: например, для систем классификации характерны как корректные, так и ложные срабатывания. К сожалению, на данном этапе это изменить нельзя, поскольку сам ИИ не позволяет понять причину принятия того или иного решения. Это связано с тем, что нейросеть обучается на большом количестве данных, на основании которых и принимает решения. Проанализировать признаки невероятно сложно.
Хотите узнать больше об искусственном интеллекте и проблемах кибербезопасности? Посмотрите полную версию лекции Андрея Духвалова!
