Guaranteeing AI Robustness against Deception (GARD)

2020: Intel возглавила проект

В начале апреля 2020 года производитель микросхем Intel возглавил новую инициативу военно-исследовательского крыла правительства США (DARPA), чтобы обеспечить киберзащиту моделей машинного обучения, используемых в работе Пентагона.

Кибератаки могут вмешиваться в алгоритмы машинного обучения и изменять результаты распознавания объектов или работу автономных транспортных средств. Последствия таких вмешательств, даже самых незаметных, могут быть катастрофическими.

Intel возглавила проект Пентагона по защите военных от кибератак на системы машинного обучения

Пентагон надеется обезопасить свои алгоритмы, разработав программу Guaranteeing AI Robustness against Deception (GARD). Существующие средства защиты от атак, как правило, основаны на заранее определенных правилах, но Пентагон надеется, что GARD сможет стать самообучающейся системой для противодействия различным видам атак. Intel заявила, что выступит генеральным подрядчиком в рамках этой программы вместе с Georgia Tech.

Главный инженер Intel Labs Джейсон Мартин (Jason Martin), возглавивший команду Intel GARD, сказал, что обе компании будут работать вместе, стараясь «улучшить способность ИИ и алгоритмов машинного обучения реагировать на состязательные атаки». На первом этапе программы основной задачей Intel станет оптимизация технологий обнаружения объектов с помощью пространственной, временной и семантической согласованности как для неподвижных изображений, так и для видео.

Пример защитной системы на основе сценариев, которую мы намерены создать - это наша собственная иммунная система, которая выявляет атаки, прекращает их и запоминает, чтобы обеспечить более эффективный ответ во время будущих сражений, - пояснил руководитель программы в Информационно-инновационном офисе Пентагона доктор Хава Зигельманн (Hava Siegelmann). - Мы должны гарантировать, что никто не сможет обмануть наши алгоритмы машинного обучения.[1]

Робототехника