XXXVI Молодежный семинар "RAG для задач биомедицины"

5 октября (понедельник), 17:00, 210 ауд.

Рустам Русланович ТАКТАШОВ
Институт биомедицинской химии им. В.Н. Ореховича

RAG для задач биомедицины

Аннотация
RAG, или Retrieval-Augmented Generation (генерация, дополненная извлечением) – это подход, при котором языковая модель отвечает на вопрос, опираясь на фрагменты, извлечённые из внешнего корпуса, а не только на параметрические знания, сформированные при обучении. Наивный RAG выполняет однократный поиск, добавляет несколько найденных фрагментов в запрос и сразу генерирует ответ. Мы предлагаем модификацию наивного подхода: поиск становится многошаговым, найденное переранжируется, промежуточные сущности фиксируются, черновик ответа проходит проверки, а при неудаче переформулируется поисковый запрос. Эта архитектура реализована в трёх системах: MedHopper, PC-RAG и DDI-CoMed. MedHopper отвечает на составные вопросы по корпусу Википедии, участвовала в треке MedHopQA соревнования BioCreative IX и достигла 0,55 точного совпадения на локальной модели Qwen2.5 с 7 миллиардами параметров. PC-RAG подбирает малые молекулы-модуляторы с изменённой представленностью на основании составленных списков дифференциально экспрессированных белков в протеомном эксперименте, учитывая знак эффекта и ткань. DDI-CoMed интерпретирует выдачу предсказательных моделей межлекарственных взаимодействий, объясняет механизмы и профили P450. Общий принцип всех систем состоит в том, что языковая модель работает как слой над извлечением и проверкой фактов.