Использование искусственного интеллекта может обернуться неожиданными угрозами. Люди обладают удивительным талантом обратить практически любое открытие и изобретение во зло себе. Так может случиться и с ИИ. Будущее может измениться настолько быстро и круто, что человек просто бессилен перед теми технологиями, которые сам же и создал.
Человечество уже глобально страдает от распространения вирусов, которые становятся все более опасными и коварными, заражая машины пользователей самыми невероятными способами. Естественно, разрабатывается антивирусный софт, который детектирует вирусы и блокирует их. Так может продолжаться до бесконечности. Это противоборство «добра и зла» в известной степени полезно, и двигает прогресс вверх.
Но скоро может случится так, что перевес окажется на стороне хакеров. И, возможно, сделано это будет при помощи машинного обучения и искусственного разума. Один из ведущих экспертов в области ИИ и антивирусного софта Хирам Андерсон рассказал об этом. Более того, он продемонстрировал возможности открытой платформы OpenAI. Настроив ее определенным образом, можно в автоматическом режиме писать вирусы, которые оказываются невидимыми для антивирусных приложений.
Как это работает?
Несмотря на всю сложность технологии, ее можно описать довольно просто. Разработка вируса-невидимки начинается с выбора самого обычного приложения. Затем, в его двоичный код вносятся некоторые изменения, которые могут при желании нести определенные угрозы.
После этого код пропускается через движок антивируса и ИИ анализирует реакции на изменения кода. В соответствии с ними, добавляются новые изменения. Уже через несколько часов автору технологии удалось получить большое число (порядка 100 000) потенциально опасных сэмплов. 16% от этого количества не смогли «увидеть» самые крутые антивирусы.