Закладки


Поделиться

URL
***

Инновации / Управление инновациями

Ваши алгоритмы не защищены от хакеров

19 января 2016

Ваши алгоритмы не защищены от хакеров

Согласно нескольким опросам, кибербезопасность стала одной из главных тем, вызывающих беспокойство у руководителей бизнеса. Компании инвестируют миллиарды долларов в защиту цифровых систем и обучение соответствующих специалистов. По некоторым оценкам, в 2015 году мировой рынок кибербезопасности составил $77 млрд, а к 2020 году его объем вырастет до $170 млрд. При этом основное внимание в этой сфере уделяется защите систем от уязвимостей в софте и оборудовании. Однако в настоящий момент рискам подвержены не только они. По мере роста зависимости организаций от алгоритмов, управляющих данными, сами эти данные начинают представлять все большую опасность.

Системы классификации образов, опирающиеся на алгоритмы машинного обучения, могут содержать в себе слабые места, которыми могут воспользоваться хакеры и прочие злоумышленники. Одна из таких распространенных брешей заключается в том, что атакующий определяет, какие данные используются для тренировки алгоритма машинного обучения, и таким образом получает возможность манипулировать входящими данными самого алгоритма.

Например, компании, специализирующиеся на оптимизации поисковых систем, давно установили, как работает алгоритм машинного обучения поисковых движков и изменили содержимое своих веб-сайтов таким образом, чтобы повысить свой рейтинг в поисковых системах. Организации, занимающиеся распространением навязчивой почтовой рекламы, пытаются обмануть алгоритмы фильтрования спама, специально вставляя ошибки в слова, на которые натаскан фильтр, или же добавляя в свои сообщения фразы, маскирующие рекламный спам под настоящую переписку.

Каждый день мы сталкиваемся с подобными примерами и в большинстве случаев не придаем им большого значения — подумаешь, нажали на странную ссылку или потратили несколько секунд на удаление лишних писем. Тем не менее такой вид мошенничества может повлечь за собой и более серьезные последствия. Компании, занимающиеся кредитно-платежными системами, внедрили множество способов машинного обучения...

Показать полностью

Доступ к статье закрыт.
Чтобы прочитать статью целиком, оформите подписку.

У меня уже есть подписка

Чтобы оставить комментарий, вам необходимо авторизоваться


САМОЕ ПОПУЛЯРНОЕ