«Сбер» разработал лучшую языковую модель для русского языка
По признанию самого авторитетного российского бенчмарка Russian SuperGLUE, языковая модель, разработанная компаниями «Сбер» и SberDevices стала лучшей по качеству восприятия и обработки информации на русском языке. Она серьезно опережает аналоги, в том числе и зарубежные, уступая только человеку в точности. Еще более удивительно то, что превосходство над конкурентами было достигнуто несмотря на то, что размер некоторых нейросетей был существенно больше.
Успех пришел к российским разработчикам неслучайно. Они потратили несколько лет на исследования и эксперименты, а первые впечатляющие результаты были представлены в 2019 году. Затем, полученный опыт был переосмыслен, нейросетевые модели многократно модифицировались и улучшались. За основу был взят принцип FRED-T5. Российские специалисты предпочли его из-за возможности размещения как кодирующих, так и декодирующих блоков. Этой особенности лишены модели семейства GPT.
В результате получилась модель, способная более качественно отрабатывать задачи, связанные с восприятием естественной речи. Российский рейтинг предъявляет комплекс оценок для того, чтобы определить состоятельность каждой модели по сравнению с конкурентами. В число обязательных заданий включены тесты на логику и здравый смысл, целеполагание и качество понимания смысла написанного текста. Модель «Сбера» справилась с каждым из них наиболее убедительно.