Экосистема AI-агентов

2 квартал 2025 года.

Это интеллектуальный помощник приёмной комиссии Казахстанско-Американского свободного университета. Для его работы используется локальная LLM и RAG-система, для поиска релевантных ответов по запросу пользователя.

Ниже представлены основные технологии и компоненты, обеспечивающие работу интеллектуального агента университета.

• 1 База данных PostgreSQL - Используется для хранения эмбеддингов (векторов) ответов, разрезанных на текстовые чанки;
• 2 Локальная модель Qwen3-Embedding-0.6B - Мультиязычная модель, используемая для генерации векторных представлений (эмбеддингов) текстов;
  • Контекст модели: 32 768 токена.
• 3 Локальная модель Google/Gemma-4-31B - Мультиязычная языковая модель с поддержкой tool_choice, позволяющая подключать внешние инструменты, такие как поиск в Интернете и возможностью обработки данных из RAG-системы;
  • Контекст модели: 7 500 токенов.
• 4 Механизм RAG и RAG-Fusion - Используются для объединения и ранжирования результатов из нескольких запросов и формирования наиболее релевантного контекста перед генерацией ответа моделью;
• 5 Механизм Reranking при помощи модели bge-reranker-v2-m3 - Используется для отбора одного наиболее точного и релевантного ответа из множества найденных фрагментов;
• 6 Голосовое распознавание + модели RVC - Работает на базе локальной модели Vosk, обеспечивая преобразование речи в текст (пока что на русском) и сервер RVC для генерации человечного голосового ответа;
• 7 Конечный результат - Передача конечного сообщения в формате:
  prompt копировать

  {Контекст}: %Результат%.
  {Вопрос}: %Вопрос%.
  {Примечание}: Дай ответ абитуриенту.

Агент доступен круглосуточно в Telegram и помогает абитуриентам, родителям и школьникам узнать всё о поступлении в наш университет.

2 квартал 2025 года.

Это библиотечный ассистент, который помогает пользователям находить книги, рекомендовать новинки, составлять таблицы и сравнивать их, а также автоматически оформлять библиографические ссылки по ГОСТ.

Временно используется решение от компании OpenAI в виде API-доступа к моделям. В скором времени будет осуществлён переход на локальную LLM. Идёт тестирование заполнения таблиц на локальной LLM.

Ниже представлены основные технологии и компоненты, обеспечивающие работу интеллектуального агента университета.

• 1 База данных MySQL - После выполнения интеграции автоматизированной библиотечной системы КАБИС, у данного агента появилась возможность выполнять запросы к базе данных с книгами, для предоставления ответа пользователю на его вопрос;
• 2 Использование API РМЭБ и IPRSmart - Выполнение запросов к ресурсам для поиска и извлечения книг;
• 3 Модель gpt-4o-mini - Мультиязычная модель, которая использует tool_choice для выполнения запросов к базе данных с книгами и выдачи результатов;
  • Контекст модели: 65 536 токенов.
• 4 Конечный результат - Модель отвечает на базовые вопросы, связанные с библиотекой. В случаях, если пользователь запрашивает какие-либо книги - модель выбирает, когда ей вызывать функции, после вызова которых выдаёт конечный результат пользователю.

Библиотечный ассистент доступен на сайте университета и круглосуточно помогает студентам, преподавателям и исследователям.

4 квартал 2025 года.

Это AI-платформа для автоматизированного создания образовательных курсов, записи лекций с AI-аватарами и генерации тестов.

Ниже представлены основные технологии и компоненты, обеспечивающие работу интеллектуального агента университета.

• 1 Запись видео с AI-аватарами преподавателей - Встроенная система создания видеоуроков с реалистичными AI-аватарами. Аватары генерируются на основе фото и аудиозаписей реальных преподавателей, что создаёт эффект «живого присутствия» и повышает доверие студентов;
• 2 Генерация учебных материалов - Агент автоматически формирует тексты лекций, презентации, методические пособия и практические задания по заданной дисциплине. При этом используются шаблоны университетского стандарта и базы данных дисциплин;
• 3 Реалистичные AI-аватары - Применяются модели генерации лиц и синхронизации речи с высокой степенью реалистичности (до 95%). Благодаря этому студенты воспринимают контент как живую лекцию, что повышает вовлечённость и доверие к преподавателю;
• 4 Конечный результат - Агент создаёт готовый мультимедийный курс: включает видеолекции, методические материалы, тесты и ссылки. Преподавателю остаётся только утвердить и опубликовать курс;
• 5 Создание тестов - Для генерации тестов в формате GIFT и лекционных материалов используется локальная модель Google/Gemma-4-31B
  • Контекст модели: 9 500 токенов.
• 6 Создание изображений - Для генерации изображений используется локальная модель Fooocus и видеокарта RTX 5090 32 VRAM.

AI-платформа доступна круглосуточно, позволяя пользователям в любое время создавать высококачественные видео с виртуальными аватарами, синтезом речи и поддержкой множества языков, а также лекционные материалы и тесты.

4 квартал 2025 года.

Цифровой ассистент для помощи в адаптации иностранных студентов Казахстанско-Американского свободного университета. Отвечает на вопросы о проживании, визовой поддержке, учебном процессе и студенческой жизни.

Ниже представлены основные технологии и компоненты, обеспечивающие работу интеллектуального агента университета.

• 1 FastAPI - Веб-фреймворк для построения API и обработки запросов пользователей;
• 2 Redis - Используется для временного хранения истории чатов;
• 3 Локальная модель Qwen3-Embedding-0.6B - Создаёт эмбеддинги и помогает системе понимать смысл запросов;
  • Контекст модели: 32 768 токенов.
• 4 Локальная модель Google/Gemma-4-31B - Основная языковая модель для генерации ответов пользователю;
  • Контекст модели: 7 500 токенов.
• 5 LangChain - Библиотека, обеспечивающая взаимодействие между локальными моделями и логикой диалога;
• 6 Конечный результат - Персонализированный ответ на вопросы иностранных студентов:
  prompt копировать

  {Вопрос}: Какие образовательные программы доступны?
  {Ответ}: Доступны следующие образовательные программы: …
  

Агент доступен круглосуточно и размещён на платформе KAFU AI-Sana. Его цель - облегчить процесс адаптации иностранных студентов и сделать коммуникацию с университетом более удобной и понятной.

2 квартал 2025 года.

Это интеллектуальный помощник обучающихся Казахстанско-Американского свободного университета. Для его работы используется локальная LLM и RAG-система, для поиска релевантных ответов по запросу пользователя.

Ниже представлены основные технологии и компоненты, обеспечивающие работу интеллектуального агента университета.

• 1 База данных PostgreSQL - Используется для хранения эмбеддингов (векторов) ответов, разрезанных на текстовые чанки;
• 2 Локальная модель Qwen3-Embedding-0.6B - Мультиязычная модель, используемая для генерации векторных представлений (эмбеддингов) текстов;
  • Контекст модели: 32 768 токена.
• 3 Локальная модель Google/Gemma-4-31B - Мультиязычная языковая модель с поддержкой tool_choice, позволяющая подключать внешние инструменты, такие как поиск в Интернете и возможностью обработки данных из RAG-системы;
  • Контекст модели: 7 500 токенов.
• 4 Механизм RAG и RAG-Fusion - Используются для объединения и ранжирования результатов из нескольких запросов и формирования наиболее релевантного контекста перед генерацией ответа моделью;
• 5 Механизм Reranking при помощи модели bge-reranker-v2-m3 - Используется для отбора одного наиболее точного и релевантного ответа из множества найденных фрагментов;
• 6 Голосовое распознавание + модели RVC - Работает на базе локальной модели Vosk, обеспечивая преобразование речи в текст (пока что на русском) и сервер RVC для генерации человечного голосового ответа;
• 7 Конечный результат - Передача конечного сообщения в формате:
  prompt копировать

  {Контекст}: %Результат%.
  {Вопрос}: %Вопрос%.
  {Примечание}: Дай ответ студенту.

Агент доступен круглосуточно в Telegram и помогает студентам узнать необходимую информацию по поводу нашего университета.