Муниципальная компания Рио-де-Жанейро выпустила открытую ИИ-модель на 397 млрд параметров
Rio 3.5 Open 397B размещена на Hugging Face: модель можно скачать и использовать в коммерческих проектах, если это допускает лицензия. В ней заявлено 397 млрд параметров, но при обработке запроса задействуется только часть системы — около 17 млрд параметров, что должно снижать вычислительные затраты.
Модель поддерживает длинные тексты, изображения и несколько языков. Разработчики опубликовали собственные результаты тестирования и утверждают, что Rio 3.5 Open 397B сопоставима с рядом ведущих коммерческих систем, но независимой проверки пока нет, а подробный технический отчет о данных, архитектуре и обучении не опубликован.
Релиз вписывается в более широкую повестку суверенных и локально адаптированных ИИ-систем. В статье приводятся примеры Falcon в ОАЭ, ALLaM в Саудовской Аравии, Fanar в Катаре, SEA-LION в Сингапуре и BharatGen в Индии: такие проекты нужны, чтобы снижать зависимость от американских и китайских платформ, контролировать данные и адаптировать модели под языки, культуру и регулирование.
Коротко
- IplanRIO из администрации Рио-де-Жанейро опубликовала открытую языковую модель Rio 3.5 Open 397B на Hugging Face.
- Модель заявлена на 397 млрд параметров, но на каждый запрос активирует около 17 млрд, чтобы снизить вычислительные затраты.
- Rio 3.5 Open 397B поддерживает длинные тексты, изображения и несколько языков, а также допускает коммерческое использование по лицензии.
- Заявления разработчиков о сопоставимости с коммерческими системами пока не подтверждены независимыми тестами.
- Релиз укладывается в тренд государственных и региональных ИИ-проектов, ориентированных на локальные данные, языки и регулирование.
FAQ
Зачем Рио-де-Жанейро понадобилась собственная открытая языковая модель, если уже есть крупные коммерческие ИИ-платформы?
Такие проекты помогают снижать зависимость от внешних платформ, лучше контролировать данные и адаптировать ИИ под локальные языки, культуру и нормы.
Можно ли считать Rio 3.5 Open 397B полноценной альтернативой ведущим коммерческим моделям уже сейчас?
Пока рано: разработчики заявляют о сопоставимых результатах, но независимой проверки и подробного технического отчета еще нет.
Почему при 397 млрд параметров модель использует только около 17 млрд параметров на один запрос?
Такой тип архитектуры активирует не всю систему сразу, а только часть параметров, что позволяет уменьшать вычислительную нагрузку.
Читайте также
ИИ-агенты для бизнеса в России: обзор 10 локальных платформ и решений
Три четверти сотрудников рекламных агентств готовы уйти из-за тендеров
Rich Messages в Telegram-ботах: сложные сообщения, черновики и ограничения
Amazon перестанет принимать новых клиентов в Mechanical Turk- Как собрать System Context Pack за час
- Сравнивать открытые LLM нужно по активным параметрам, а не только по общему размеру: У Rio 3.5 Open 397B заявлено 397 млрд параметров, но на один запрос задействуется около 17 млрд. Для оценки стоимости инференса, требований к железу и практической применимости важно смотреть не только общий размер модели, но и число активируемых параметров на запрос.
[AI-инфраструктура и оценка моделей]
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
IplanRIO, муниципальная ИТ-компания администрации Рио-де-Жанейро, выпустила открытую языковую модель Rio 3.5 Open 397B. Это редкий пример крупного ИИ-релиза не от корпорации или национальной лаборатории, а от структуры городского уровня.