В мире разработано немало систем, где используется искусственный интеллект. Как правило, такие системы способны самообучаться. Это обеспечивает не только их гибкость, но и позволяет выполнять текущие задачи более эффективно. Однако, оценивая их работу только по конечному результату, сложно понять, насколько хорошо ИИ прошел обучение. Концепция машинного обучения предполагает, что машина усваивает определенные правила и учится применять их так, что ей под силу становится разгадка сложнейших головоломок. Но ученые не могут знать доподлинно, какие правила машина создала для себя.
Эти вопросы долгие годы не давали покоя исследователям. Но сейчас появился метод, позволяющий получить полное представление о правилах, используемых машиной. Он сводится к тестированию системы и оценке правильности используемых правил обработки информации. Обучение ИИ можно свести, для простоты, к двум моделям. Первый вариант предполагает глубокое изучение математики как науки. Второй же является механическим запоминанием уравнений. Достаточно немного поразмыслить, чтобы понять, что второй путь является тупиковым, а вот первый открывает самые широкие возможности.
Питер Ку, сотрудник научного центра Колд-Спринг-Харбор, подошел к этой интересной проблеме со всей серьезностью и основательностью. Он разработал особый ИИ, глубокую нейронную сеть, чьей задачей стал поиск паттернов в цепочках РНК (Рибонуклеи́новая кислота́). Это сложная задача, требовавшая не только времени, но и преодоления сложностей обучения. Однако, успех был очевиден и точность сделанных нейросетью прогнозов впечатляла.
Затем Ку применил, разработанный им анализ глобальной важности, когда нейросети предлагалось проанализировать искусственно созданные последовательности РНК-цепочек. Наблюдение за тем, как нейросеть изучает и обрабатывает предложенные последовательности, позволило выяснить, что ИИ просматривает не только небольшие участки в рамках одной промежуточной задачи, но и способен на более масштабный анализ, дающий более точное представление о той, или иной последовательности РНК.
