Доклады

Будущее системного ПО в эпоху AI: компиляторы, рантаймы и наш путь к OxideRT на Rust

Доклад принят в программу конференции

Описание доклада

Большие языковые модели (LLM) захватили мир, но их эффективное внедрение в production упирается в "стеклянный потолок" экосистемы Python. Проблемы с GIL, управлением памятью и сложностью развертывания заставляют искать новые, более системные подходы.

В нашем докладе мы утверждаем, что будущее высокопроизводительной AI-инфраструктуры лежит в системных языках, и Rust — главный кандидат на эту роль. Мы не просто обсудим теорию, а пройдем практический путь проектирования OxideRT — нашего концептуального, легковесного рантайма для AI-моделей на Rust. Мы покажем, как с его помощью можно получить полный контроль над исполнением, безопасно работать с GPU через FFI и заложить архитектуру для будущих компиляторных оптимизаций. Этот доклад для тех, кто хочет заглянуть под капот современных AI-фреймворков и понять, как системное программирование решает их ключевые проблемы.

Андрей Носов

Raft

NLP Lead. Архитектор И И. CTO.

Организатор

Есть вопросы — обращайтесь

Орг. комитет: org@ontico.ru
Партнерство: partners@ontico.ru
Программный комитет: speakers@ontico.ru
Инфопартнерство: marketing@ontico.ru
Поддержка:
+7 (495) 646-07-68, support@ontico.ru,
@ontico_support

125040, Москва, Нижняя ул., д. 14, стр. 7, подъезд 1, оф. 16
ООО «Конференции Олега Бунина»

ООО «Конференции Олега Бунина», ИНН 7733863233, КПП 771401001 , ОКВЭД 82.3, ОКПО 26117225, ОГРН 5137746153518, Банк получателя АО «АЛЬФА-БАНК», г. МОСКВА, БИК 044525593, корреспондентский счет 30101810200000000593, расчетный счет 40702810202720001072 , 125040, г. Москва, ул. Нижняя, д. 14, стр. 7, оф. 08.