Russian-Armenian (Slavonic) University

Printed by the decision of

the Academic Council of RAU

V E S T N I K

OF RUSSIAN-ARMENIAN (SLAVONIC) UNIVERSITY

(SERIES: PHYSICALMATHEMATICAL AND

NATURAL SCI

ENCES)

RAU University Press

No. 2/2025

Российско-Армянский (Славянский) университет

Печатается по решению

Ученого Совета РАУ

В Е С Т Н И К

РОССИЙСКО-АРМЯНСКОГО (СЛАВЯНСКОГО)

УНИВЕРСИТЕТА

(СЕРИЯ: ФИЗИКО-МАТЕМАТИЧЕСКИЕ И

ЕСТЕСТВЕННЫЕ НАУКИ)

Издательство РАУ

№ 2/2025

Вестник РАУ, № 2. – Ер.: Изд-во РАУ, 2025. – 96 с.

Главный редактор: академик НАН РА, д.ф.-м.н., проф. Казарян Э.М.

Зам. главного редактора: к.ф.-м.н., д.филос.н., проф. Аветисян П.С.

Ответственный секретарь: к.х.н. Шагинян Р.С.

Редакционная коллегия:

Математика и информатика

Р.Г. Арамян – д.ф.-м.н.,

проф., Российско-Армянский университет (РАУ), Институт

Математики НАН РА

Д.Г. Асатрян – д.т.н., проф., Институт проблем информатики и автоматизации НАН РА

Г.Г. Казарян – д.ф.-м.н., проф., Российско-Армянский университет (РАУ)

О.В. Бесов – член-корр. РАН, д.ф.-м.н.,

проф., Математический институт им. В.А.

Стеклова РАН (Россия)

В.И. Буренков – д.ф.-м.н., проф., Математический институт им. В.А. Стеклова РАН

(Россия)

А.Г. Сергеев – академик РАН, д.ф.-м.н., проф., Математический институт им. В.А. Стек-

лова РАН (Россия)

А.И. Аветисян – академик РАН, д.ф.-м.н., про

ф., Институт системного программиро-

вания им. В.П. Иванникова РАН (Россия)

В.Ш. Меликян – член-корр. НАН РА, д.т.н., проф., Российско-Армянский университет

(РАУ), Synopsys

Биологические и химические науки

А.А. Аракелян – д.б.н., проф., Российско-Армянский университет (РАУ), Институт

Молекулярной биологии НА

Н РА

В.И. Муронец – д.б.н., проф., Московский государственный университет (МГУ) (Россия)

А.А. Оганесян – к.б.н., доц., Российско-Армянский университет (РАУ)

Р.В. Захарян – к.б.н., Российско-Армянский университет (РАУ)

Г.Г. Данагулян – член-корр. НАН РА, д.х.н., проф., Российско-Армянский универси-

тет (РАУ)

К.Б. На

зарян – д.б.н., проф., Институт Молекулярной биологии НАН РА

Л.М. Епископосян – д.б.н., проф., Институт Молекулярной биологии НАН РА

А.Б. Киракосян – д.б.н., проф., Массачусетский технологический институт (США)

Физико-технические науки

Д.А. Фирсов – д.ф.-м.н., проф., СПбПУ им. Пет

ра Великого (Россия)

А.В. Папоян – член-корр. НАН РА, д.ф.-м.н., проф., Институт физических исследова-

ний НАН РА

С.Г. Петросян – член-корр. НАНРА, д.ф.-м.н., проф., Российско-Армянский универ-

ситет (РАУ)

А.А. Саркисян – д.ф.-м.н., проф., Российско-Армянский университе

т (РАУ)

Е.Ш. Мамасахлисов – д.ф.-м.н., проф., Российско-Армянский университет (РАУ)

В.Г. Аветисян – д.т.н., проф., Российско-Армянский университет (РАУ)

Журнал основан в 2003 году и входит в перечень периодических изданий,

зарегистрированных ВАК РА и РИНЦ

Российско-Армянский университет, 2025г.

ISSN1829-0450 ©

Издательство РАУ, 2025

Vestnik of the RAU, No. 2. – Yer.: RAU Publishing House, 2025. – 96 p.

Editor-in-Chief: Academician of NAS RA, D.Sc. in Physics and Mathematics,

Prof. Kazaryan E.M.

Deputy Editor-in-chief: Ph.D. in Mathematics, D. Sc. in Philosophy, Prof. Avetisyan P.S.

Executive secretary: Ph.D. in Science (Chemistry) Shaginyan R.S.

Editorial team

Mathematics and Computer Science

R.G. Aramyan – D. Sc. (Mathematics), Prof., Russian-Armenian University (RAU), Institute

of Mathematics NAS RA

D.G. Asatryan – D. Sc. (Technical Sciences), Prof., Institute of Informatics and Automation

Problems of NAS RA

G.G. Kazaryan – D. Sc. (Mathematics), Prof., Russian-Armenian University (RAU)

O.V. Besov – corresponding member of RAS, D. Sc. (Mathematics), Prof., Mathemati

cal

stitute Named after V.A. Steklov RAS (Ru

ssia)

I.A. Burenk

ov – D. Sc., Prof., Mathematical Institute Named after V.A. Steklov RAS (Russia)

A.G. Sergeev – Academician of the Russian Academy of Sciences, D. Sc. (Mathe

matics),

Prof., M

athematical Institute Named after V.A. Steklov RAS (Rus

sia)

A.I. Avetisy

an – Academician of the Russian Academy of Sciences, D. Sc. (Mathematics)

Prof., In

stitute of System Programming Named after V.P. Ivannikov RAS (Ru

ssia)

V.Sh. Melikyan – cor

responding member of NAS RA, D. Sc. (Technical Sciences), Prof

ssianArmenian University (RAU), Synopsys

Biological and Chemical Sciences

A.A. Arakelyan – D. Sc. (Biology), Prof., Institute of Molecular Biology NAS RA

I.A. Muronets – D. Sc. (Biology), Prof., Moscow State University (Russia)

A.A. Hovhannisyan – Ph.D. in Science (Biology), Russian-Armenian University (RAU)

R.V. Zakharyan – Ph.D. in Science (Biology), Russian-Armenian University (RAU)

G.G. Danagulyan – corresponding member оf NASRA, D. Sc. (Chemistry), Prof., Russian-

Armenian University (RAU)

K.B. Nazaryan – D.Sc. (Biology), Prof., Institute of Molecular Biology NAS RA

L.M. Episkoposyan – D.Sc. (Biology), Prof., Institute of Molecular Biology NAS RA

A.B. Kirakosyan – D.Sc. (Biology), Prof., Massachusetts Institute of Technology (USA)

Physical and Technical Sciences

D.А. Firsov – D. Sc. (Physics), Prof., SPbPU Named after Peter the Great (Russia)

A.V. Papoyan – corresponding member of NAS RA, D.Sc. (Physics), Prof., Institute of

Physical Research NAS RA

S.G. Petrosyan – corresponding member of NAS RA, D. Sc. (Physics), Prof., Russian-

Armenian University (RAU)

A.A. Sargsyan – D.Sc. (Physics), Prof., Russian-Armenian University (RAU)

E.S. Mamasakhlisov – D.Sc. (Physics), Prof., Russian-Armenian University (RAU)

V.G. Avetisyan – D. Sc. (Technical Sciences), Prof., Russian-Armenian University (RAU)

The journal founded in 2003 is included in the list of periodicals

registered by HAC RA and RSCI

Russian-Armenian University, 2025

ISSN1829-0450 © RAU Publishing House, chemistry 2025

СОДЕРЖАНИЕ

CONTENT

МАТЕМАТИКА И ИН

ФОРМАТИКА

Оганесян О.А., Айрапетян А.А., Сурменелян К.С.,

Сардарян А.С. Сравнительная оценка стратегий

дообучения для диалектального распознавания

армянской речи ............................................................................ 7

Melkonyan V. Autonomous UAV Control Based on Camera

Video ............................................................................................. 17

Киракосян Л.А. Система обнаружения и интеллектуального

подавления каналов связи БПЛА ............................................... 26

Sahakyan V. Autonomous UAV Navigation without GNSS ............. 36

ФИЗИКО-ТЕХНИЧЕСКИЕ НАУКИ

Степанян Г.Г., Амбарцумян А.В. Иссле

дование и разработка

системы оптической обработки сигналов от распределенной

антенной решетки в СВЧ-диапазоне .......................................... 45

БИОЛОГИЧЕСКИЕ НАУКИ

Nikitin D. Integrated Analysis of Human Retroelement-linked

Histone Modifications for Identifying Rapidly Evolving

Oncogenic Processes ..................................................................... 54

Grabski H. Artifacts Caused by Crystallographic Neighbors

during Docking. The Importance of the Biological Unit for

Evaluating Docking accuracy ........................................................ 70

Grabska S. Effect of EGFR Conformational Plasticity on the

Accuracy of Covalent EGFR Inhibitor Docking: an Improved

Approach ………………………………………………………… 82

Вестник РАУ № 2, 2025, 7-16

МАТЕМАТИКА И ИНФОРМАТИКА

Поступила: 03.10.2025г.

DOI 10.24412/1829-0450-fm-2025-2-7-16

УДК 04

Сдана на рецензию: 03.10.2025г.

Подписана к печати: 09.10.2025г.

СРАВНИТЕЛЬНАЯ ОЦЕНКА СТРАТЕГИЙ

ДООБУЧЕНИЯ ДЛЯ ДИАЛЕКТАЛЬНОГО

РАСПОЗНАВАНИЯ АРМЯНСКОЙ РЕЧИ

О. А. Оганесян, А.А. Айрапетян, К.С. Сурменелян,

А.С. Сардарян

Российско-Армянский (Славаянский) университет

hovhannisyan.[email protected], hayrapetyan.ani@student.rau.am,

karolina.surmene[email protected], ar[email protected]

АННОТАЦИЯ

В данной статье представлена сравнительная оценка стратегий

дообучения для автоматического распознавания речи (ASR) на раз-

личных армянских диалектах. Анализ проводится с использованием

трех современных многоязычных моделей: Whisper v2, Whisper v3

и SeamlessM4T. Цель исследования – оценить влияние различных

стратегий адаптации на метрики ошибок распознавания речи на

уровне слов (WER) и символов (CER) в условиях ограниченных ре-

сурсов и разнообразия диалектов.

Рассматриваются три стратегии дообучения: обучение на дан-

ных одного диалекта, совместное дообучение на нескольких диа-

лектах, двухэтапное дообучение.

Сравнительная оценка стратегий дообучения для диалектального распознавания...

Наилучшие показатели были достигнуты при использовании мо-

дели Whisper v3 в рамках двухэтапного подхода: WER составил 24,2

%, а CER – 10% в среднем по всем диалектам. Проведённое иссле-

дование демонстрирует, что дообученные многоязычные модели

превосходят существующие системы распознавания армянской ре-

чи, что подчеркивает важность целенаправленного дообучения для

языков с ограниченными ресурсами, таких как армянский.

Ключевые слова: Автоматическое распо

знавание речи, адапта-

ция диалектов, стратегии дообучения, языки с ограниченными ре-

сурсами.

Введение

Автоматическое распознавание речи достигло значительных

успехов с появлением крупных многоязычных трансформерных моде-

лей, таких как Whisper[1] и SeamlessM4T [2]. Однако разнообразие

диалектов внутри языков остается одной из наиболее сложных и нере-

шенных проблем в области распознавания речи. В условиях ограни-

ченных языковых ресурсов вариативность диалектов может сущест-

венно снижать точность систем распознавания речи, особенно при ог-

раниченном или неравномерном распределении обучающих данных.

Армянский язык представляет собой показательный пример: он

включает несколько диалектов, которые различаются по фонологичес-

ким и морфологическим признакам, но используют общую орфогра-

фическую систему. Такое разнообразие отражает более широкие гло-

бальные проблемы автоматического распознавания речи для языков с

ограниченными ресурсами и внутренними вариациями.

Настоящая работа направлена на сравнение трех ключевых стра-

тегий дообучения для адаптации систем распознавания речи к армян-

ским диалектам с применением современных многоязычных моделей.

Цель исследования заключается в выявлении наиболее эффективных

подходов, обеспечивающих высокую точность распознавания речи

при сохранении способности модели к обобщению между различными

армянскими диалектами.

О.А. Оганесян, А.А. Айрапетян, К.С. Сурменелян, А.С. Сардарян

Обзор существующих решений

Исследования в области автоматического распознавания армян-

ской речи до настоящего времени в основном сосредоточены на совре-

менном восточном армянском языке, уделяя лишь ограниченное вни-

мание диалектам.

В последние годы было представлено несколько открытых сис-

тем армянского распознавания речи. ArmSpeech [3] представляет со-

бой модель на основе рекуррентных нейронных сетей (RNN),

обучен-

ную на 15,7 часах данных корпуса ArmSpeech. ASPRAM

основана на

архитектуре Wav2Vec 2.0 [4] и включает языковую модель, обученную

на наборах данных Common Voice 9.0

и Google FLEURS

. NVIDIA-hy

ASR

– это гибридная модель FastConformer [6] с 115 миллионами па-

раметров, обученная на 296 часах армянского аудио, включая Common

Voice 17.0 и аудиокниги. Несмотря на то, что указанные системы де-

монстрируют сравнительные результаты для современного восточно-

го армянского языка, они практически не обеспечивают поддержку ди-

алектных форм.

Таблица 1.

Характеристика систем распознавания армянской речи:

классификация по типу, лицензии и архитектуре

Модель Тип Лицензия Архитектура

ArmSpeech Одноязыч-

ный

С открытым

исходным кодом

Сквозная архи-

тект

ра (RNN)

ASPRAM Одноязыч-

ный

С открытым

исходным кодом

Сквозная архи-

тектура

(Wav2Vec 2.0)

https://huggingface.co/YSU/aspram

https://huggingface.co/datasets/mozilla-foundation/common_voice_9_0

https://huggingface.co/datasets/google/fleurs

https://huggingface.co/nvidia/stt_hy_fastconformer_hybrid_large_pc

Сравнительная оценка стратегий дообучения для диалектального распознавания...

NVIDIA-hy ASR Одноязыч-

ный

С открытым

исходным кодом

Гибридная

(Transducer–

CTC)

Whisper Large v2 Многоязыч-

ный

С открытым

исходным кодом

Сквозная архи-

тектура

(Encoder–

Decoder)

Whisper Large v3 Многоязыч-

ный

С открытым

исходным кодом

Сквозная архи-

тектура

(Encoder–

Decoder)

SeamlessM4T v2 Multilingual С открытым

исходным кодом

Сквозная архи-

тектура

(Sequence-to-

Unit)

Параллельно с этим крупные многоязычные открытые модели,

такие как Whisper v2

/v3

и SeamlessM4T

, достигли впечатляющих ре-

зультатов в задаче обобщения на языки с ограниченными ресурсами,

включая армянский. Тем не менее, их обучающие корпуса содержат

минимальное количество диалектных данных, а исследования страте-

гий дообучения для армянских диалектов ранее не проводились.

Настоящее исследование восполняет этот пробел, проводя срав-

нительную оценку трех стратегий дообучения – однодиалектной, мно-

годиалектной и двухэтапной – с использованием моделей Whisper

v2/v3 и SeamlessM4T в качестве базовых архитектур для анализа эф-

фективных подходов адаптации систем распознавания речи к диалек-

там армянского языка.

https://huggingface.co/openai/whisper-large-v2

https://huggingface.co/openai/whisper-large-v3

https://huggingface.co/facebook/seamless-m4t-v2-large

О.А. Оганесян, А.А. Айрапетян, К.С. Сурменелян, А.С. Сардарян

Характеристики указанных моделей, включающая их тип, ли-

цензионный статус и архитектурные особенности, представлены в

Табл. 1.

Набор данных

Для экспериментов использовался корпус, включающий 70 ча-

сов нешумных аудиоданных вместе с соответствующими транскрип-

циями, охватывающих пять диалектов армянского языка. Каждый под-

корпус был разделён на обучающую (80%), валидационную (10%) и

тестовую (10%) выборки, при этом обеспечивалось

сбалансированное

представление мужских и женских голосов.

Модели и стратегии дообучения

Эксперименты проводились с использованием трёх многоязыч-

ных открытых моделей автоматического распознавания речи: Whisper

v2, Whisper v3 и SeamlessM4T.

Были рассмотрены три стратегии дообучения:

1. Диалектно-специфическое дообучение.

Каждый подкорпус использовался независимо для дообучения

базовой модели с целью оценки способности адаптации к отдельным

диалектам без междиалектного воздействия.

2. Многодиалектное дообучение.

Все наборы данных объединялись с корпусом MEA(Modern

Eastern Armenian) в единый обучающий набор, что способствовало по-

вышению обобщающей способности модели и стабильности обуче-

ния. Каждая базовая модель дообучалась один раз на этом объединен-

ном корпусе.

3. Двухэтапное дообучение.

На первом этапе модель дообучалась на объединённом корпусе

всех диалектов, после чего на втором этапе проводилась дополнитель-

ная адаптация для каждого диалекта отдельно. Такой подход позволил

Сравнительная оценка стратегий дообучения для диалектального распознавания...

использовать общие многоязычные представления и последующую

диалектно-ориентированную специализацию.

Обучение продолжалось до сходимости, определяемой стабили-

зацией функции потерь на протяжении двух последовательных эпох.

Энкодеры моделей Whisper оставались замороженными.

Гиперпараметры обучения: для моделей Whisper – размер бат-

ча = 4, скорость обучения = 1×10⁻⁵; для SeamlessM4T – размер батча =

8, скорость обучения = 1×10⁻⁶. Все эксперименты выполнялись на од-

ном графическом

процессоре NVIDIA A40.

Результаты

Метрики оценки: Производительность моделей оценивалась с

использованием уровня ошибок на уровне слов (WER) и уровня оши-

бок на уровне символов (CER) для современного западноармянского

(MWA) Арцахского диалектов.

Рассматривались три сценария дообучения:

(a) диалектно-специфическое,

(b) многодиалектное,

Полученные результаты приведены в Табл. 2 и 3. В них предс-

тавлены значения ошибок на уровне слов (WER) и ошибок на уровне

символов (CER) для каждого диалекта. Оценка проводилась для трех

многоязычных моделей: Whisper Large v2, Whisper Large v3 и

SeamlessM4T v2.

Таблица 2.

Показатели WER выбранных моделей, оцененных

на диалектных тестовых наборах

Модель Стратегия MWA Арцах

Whisper Large v2 (a) 18.25 36.2

(b) 19.25 39.1

О.А. Оганесян, А.А. Айрапетян, К.С. Сурменелян, А.С. Сардарян

Whisper Large v3 (a) 75.2 53.9

(b) 18.55 37.2

SeamlessM4T v2 (a) 19.05 38.6

(b) 18.95 45.7

ArmSpeech

– 97.9 96.4

ASPRAM – 78.95 86.9

NVIDIA-hy ASR – 64.05 74.1

Как показано в таблицах, среди рассмотренных подходов двухэ-

тапная стратегия (c) демонстрирует наиболее стабильные и низкие

значения ошибок по всем диалектам, подтверждая преимущество дву-

хэтапной адаптации для задач распознавания речи в условиях ограни-

ченных ресурсов.

Таблица 3.

Показатели CER выбранных моделей, оцененных

на диалектных тестовых наборах

Модель Стратегия MWA Арцах

Whisper Large v2 (a) 7.75 14.5

(b) 8.25 17.0

Сравнительная оценка стратегий дообучения для диалектального распознавания...

Whisper Large v3 (a) 35.8 21.2

(b) 7.95 15.7

SeamlessM4T v2 (a) 8.5 14.3

(b) 8.6 17.1

ArmSpeech – 42.2 47.3

ASPRAM – 29.25 33.4

NVIDIA-hy ASR – 24.9 31.4

В целом, Whisper Large v3 показала наилучшие результаты, сни-

зив средний WER до 23,7%, а CER до 8,9%, тогда как SeamlessM4T v2

также продемонстрировала значительные улучшения.

Многодиалектная стратегия (b) обеспечила большую устойчи-

вость по сравнению с однодиалектным обучением, однако привела к

легкому междиалектному взаимовлиянию, особенно в фонологически

удаленных вариантах.

Эти результаты подтверждают, что двухэтапная адаптация являет-

ся надежным и масштабируемым методом повышения качества распоз-

навания речи в диалектально разнообразных и малоресурсных языках.

Заключение

Для адаптации крупных многоязычных моделей автоматическо-

го распознавания речи (Whisper Large v2, Whisper Large v3 и

О.А. Оганесян, А.А. Айрапетян, К.С. Сурменелян, А.С. Сардарян

SeamlessM4T v2) к армянским диалектам были сравнены три страте-

гии дообучения: диалектно-специфическая, многодиалектная и двух-

этапная.

Во всех экспериментах двухэтапная стратегия дообучения де-

монстрировала наилучший баланс между специализацией и обобщаю-

щей способностью, достигая показателей WER = 24,2 % и CER = 10%

при использовании модели Whisper Large v3, показавшей наивысшую

общую эффективность.

Результаты подтверждают, что двухэтапная адаптация, вклю-

чающая предварительное обучение

на объединенном многодиалект-

ном корпусе с последующей донастройкой на отдельных диалектах,

представляет собой масштабируемый и эффективный подход для сис-

тем распознавания речи в условиях ограниченных языковых ресурсов.

В дальнейшем планируется расширение корпуса данных, иссле-

дование мульти-GPU и кросс-лингвистических сценариев переноса, а

также интеграция адаптивных методов предобучения, учитывающих

диалектные вариации, с целью дальнейшего повышения устойчивости

и обобщающей способности моделей.

Благодарности: Это исследование выполнено при поддержке

Комитета по науке Республики Армения (научный проект № 23AA-

1B006).

ЛИТЕРАТУРА

1. Radford A., Kim, J.W., Xu, T., Brockman, G., McLeavey C., & Sutskever I. (2023,

July). Robust speech recognition via large-scale weak supervision. In International

conference on machine learning (pp. 28492–28518). PMLR.

2. Barrault L., Chung Y., Meglioli M., Dale D., Dong N., Duquenne P., ... & Wang S.

(2023). SeamlessM4T: massively multilingual & multimodal machine translation.

arXiv preprint arXiv:2308.11596.

3. Baghdasaryan-Tapalcyan S. (1958) Mˇso barba˙r@ [The Mush Dialect]. Academic

Edition

4. Rekesh D., Koluguri N. R., Kriman S., Majumdar S., Noroozi V., Huang H., ... &

Ginsburg, B. (2023, December). Fast conformer with linearly scalable attention for

Сравнительная оценка стратегий дообучения для диалектального распознавания...

efficient speech recognition. In 2023 IEEE Automatic Speech Recognition and

Understanding Workshop (ASRU) (pp. 1-8). IEEE.

5. Baevski A., Zhou Y., MohamedA., & Auli M. (2020). wav2vec 2.0: A framework

for self-supervised learning of speech representations. Advances in neural

information processing systems, 33, 12449–12460.

6. Conneau A., Ma M., Khanuja S., Zhang Y., Axelrod V., Dalmia S. ... & Bapna A.

(2023, January). Fleurs: Few-shot learning evaluation of universal representations

of speech. In 2022 IEEE Spoken Language Technology Workshop (SLT) (PP. 798–

805). IEEE.

7. Ardila R., Branson M., Davis K., Henretty M., Kohler M., Meyer J., ... & Weber,

G. (2019). Common voice: A massively-multilingual speech corpus. arXiv preprint

arXiv:1912.06670.

COMPARATIVE EVALUATION OF FINE-TUNING STRATEGIES FOR

DIALECTAL ARMENIAN SPEECH RECOGNITION

O. Hovhannisyan, A. Hayrapetyan, K. Surmenelyan, A. Sardaryan

Russian-Armenian (Slavonic) University

ABSTRACT

This work presents a comparative evaluation of fine-tuning strategies for

automatic speech recognition (ASR) across various Armenian dialects. The analysis

employs three state-of-the-art multilingual models – Whisper Large v2, Whisper Large

v3, and SeamlessM4T v2—to assess the impact of different adaptation strategies on

Word Error Rate (WER) and Character Error Rate (CER) under low-resource and

dialectally diverse conditions.

Three fine-tuning strategies are examined: dialect-specific training, multi-

dialect joint training, and two-stage hierarchical fine-tuning. The best performance was

achieved with the Whisper Large v3 model using the two-stage fine-tuning approach,

reaching an average WER of 23.7% and CER of 8.9% across all dialects.

The findings demonstrate that fine-tuned multilingual ASR models significantly

outperform existing Armenian speech recognition systems, underscoring the

importance of targeted adaptation for low-resource languages such as Armenian.

Keywords: Automatic Speech Recognition, Dialect Adaptation, Fine-Tuning

Strategies, Low-Resource Languages.

Вестник РАУ № 2, 2025, 17-2

OI 10.24412/1829-0450-fm-2025-2-17-25 Поступила: 13.10.2025г.

УДК Сдана на рецензию: 13.10.2025г.

Подписана к печати: 21.10.2025г.

AUTONOMOUS UAV CONTROL

BASED ON CAMERA VIDEO

V. Melkonyan

Russian-Armenian (Slavonic) University

vahagn.melkonya[email protected]

ABSTRACT

This paper presents a vision-based autonomous control system for

unmanned aerial vehicles (UAVs) designed to intercept and track moving

targets using onboard camera data. The proposed approach integrates

real-time visual feedback with a dynamic control mechanism that

continuously adjusts the UAV's trajectory based on the estimated target

position.

Keywords: autonomous control, UAV, vision-based navigation,

visual servoing, real-time control.

Introduction

Interception is a challenging control problem for unmanned aerial

vehicles (UAVs), where the goal is to engage and hit a moving target

accurately. This task requires fast, accurate, and dynamically stable control

rather than simple visual tracking. It is relevant to applications such as aerial

capture, defense, and autonomous pursuit of moving objects. Vision-based

interception enables fully autonomous operation without relying on GPS or

external localization systems. The UAV must estimate the target's position

directly from onboard camera data and continuously adapt its motion in real

time. However, vision introduces inherent uncertainties, including image

Autonomous UAV control based on camera video

delay, noise, and limited depth perception, which complicate control system

design. In this work, the UAV uses a monocular camera, which simplifies

the hardware but demands a robust and responsive control mechanism

capable of compensating for limited spatial information. This paper focuses

on the control aspect of the interception problem. This work proposes a

vision-based control system that combines proportional navigation (PN)

with visual servoing principles. The controller dynamically adjusts the

UAV's trajectory using the target position estimated from image

coordinates, ensuring smooth and accurate terminal interception. The

approach is validated both in simulation and real-world flight tests,

demonstrating high interception success rates.

Related Work

Recent research has explored various strategies for UAV interception

using onboard vision. For instance, the work in [1] applies an image-based

visual servo (IBVS) approach for high-speed target pursuit, while [2]

utilizes stereo vision and deep learning-based detection for dynamic

interception. Other studies, such as [3], integrate proportional navigation

with visual feedback to enhance accuracy. Despite these advances, most

approaches either rely on complex hardware (e.g., stereo or depth cameras)

or struggle with real-time performance and robustness under varying

lighting and motion conditions.

The challenge remains to design a lightweight, vision-only control

mechanism capable of achieving accurate terminal interception under

uncertainty. Our method addresses this problem by unifying PN guidance

with visual servo feedback derived from monocular camera data.

Proposed Method

The proposed interception controller uses only the tracked bounding

box center from a monocular camera as input and runs both in simulation

(PX4 [4] HITL [5] + ROS2 [6] with Gazebo [7]) and on real hardware. For

target tracking, we employ a hybrid tracker [8] combining MixFormer [9]

V. Melkonyan

and KCF [10], leveraging MixFormer for robust object re-identification and

KCF for high-speed local updates. The controller operates in three mutually

exclusive cases (close, above, normal) and uses a two-rate control cycle:

tick (outer loop) and subtick (inner loop). These cycles compute and apply

attitude and thrust commands that lead the UAV to physically contact the

target.

A. High-level control flow and cases

Let the tracked bounding box center in image coordinates be (𝑢, 𝑣)

and the configured hit point in image coordinates as (𝑢



, 𝑣



), which is fixed

before flight but can be changed online via MAVLink [11]. After the

operator selects the bounding box (either by manual click or by choosing

from pre-detected objects), the controller evaluates the box position and

selects one of three modes.

Case 1: Object too close (box center low in image)

If 𝑣 is below a configurable lower threshold, the interceptor reduces

altitude and actively centers the box along the image X-axis. This prevents

excessive downward speed that would make attitude control unstable. When

a critical height is reached, the controller switches to Case 3.

Case 2: Object above the interceptor (box center high in the

image)

If 𝑣 is above a configurable upper threshold, the UAV climbs to

reduce the pitch command that would otherwise cause backward motion.

The climb continues until the commanded pitch reaches a predefined critical

angle. After reaching this angle, the controller switches to Case 3.

Case 3: Normal interception

When neither Case 1 nor Case 2 holds, the interception process runs

in ticks and subticks. Each tick computes yaw and pitch commands to move

Autonomous UAV control based on camera video

the bounding box center toward the hit point (𝑢



, 𝑣



). During subticks,

PID [12] (Proportional–Integral–Derivative) controllers regulate roll and

thrust to minimize pixel-wise errors between the box center and the hit

point. Those controllers also have an anti-windup mechanism [13] to

prevent the integral term from growing excessively large.

B. Tick and Subtick roles (outer and inner loop)

In each tick of the outer loop, which runs every 𝑇 frames, the system

calculates the desired yaw and pitch angles needed to move the bounding

box center toward the hit point (𝑢



, 𝑣



). It then sets the target attitude

setpoints for the inner loop and resets the PID terms to maintain consistent

behavior in that loop.

Within each subtick of the inner loop, which runs every 𝑡



frames, the

system runs the 𝑃𝐼𝐷



and 𝑃𝐼𝐷



controllers using the pixel-space

errors. These controllers generate a roll command, limited by predefined

upper and lower bounds, and a thrust value that stays within the range [0, 1].

The resulting roll and thrust commands are then sent to PX4 as attitude and

thrust setpoints.

This two-rate control approach allows the outer loop to handle coarse

direction planning, while the faster inner loop performs fine, real-time

corrections to keep the system stable and responsive.

C. PID controllers and mapping

The Roll PID controller reduces the rotational alignment error,

which represents the angular difference between the object's center and the

drone's dynamically adjusted horizon line. In other words, it keeps the target

aligned with the horizon as the drone rolls.

The Thrust PID controller minimizes the vertical deviation between

the desired interception pitch line and the target's projected position. This

allows the drone to maintain a steady pitch trajectory toward the target

during engagement, ensuring stable and precise motion.

V. Melkonyan

Figure 1. The visual servoing control loop. The white lines represent the camera's vertical

axis and its dynamically rotated vertical line. The green box marks the tracked object, with

the yellow dot showing its center. The green dot indicates the projection of the object's

center onto the rolled vertical line, while the red dot depicts the optical interception

direction. The purple line represents the drone's critical pitch angle threshold.

Figure 1 shows the visual servoing geometry used by the controller:

 White lines represent the camera's vertical axis and the

dynamically rolled vertical line.

 The green box and yellow dot mark the tracked object and its

center.

 The green dot is the projection of the object center onto the rolled

vertical line.

 The red dot indicates the direction of optical interception.

 The yellow line shows the roll error (minimized by 𝑃𝐼𝐷



), the

blue line the thrust/pitch error (minimized by 𝑃𝐼𝐷



), and the

purple line the critical pitch threshold (for case 1).

Results

This section presents both simulation and real-world results obtained

from the proposed autonomous UAV interception system. The evaluation

aimed to validate system robustness across varying target speeds, visual

conditions, and flight dynamics, using both the PX4-based simulator and

multiple physical drone platforms.

Autonomous UAV control based on camera video

A. Simulation

Performance across different target speeds was evaluated using the

PX4 HITL (hardware-in-the-loop) Gazebo environment integrated with

ROS2 and the proposed visual control system. Targets were simulated as

objects moving along predefined trajectories with variable speeds relative

to the UAV. Table 1 summarizes interception performance across four

target speed categories.

The system demonstrated near-perfect interception performance for

stationary and slow targets, maintaining a 100% success rate at 0 m/s and

98% at 5 m/s. A trial was considered successful when the UAV physically

made contact with the target. Performance gradually decreased with

increasing target speed, primarily due to the higher apparent motion and

reduced control time window. At 15 m/s head-on approaches, success

dropped to 78%, mainly due to rapid apparent size growth and high optical

flow, which occasionally led to late control reactions or ground collisions.

Table 1.

Simulation results: interception success rate by target speed

with a fixed 100m distance

Target Speed

(m/s)

# Scenarios Success (%) Avg. Time (s)

Failures

(Ground /

Timeout)

0 49 100 8 0 / 0

5 49 98 13 1 / 0

10 49 92 16 3 / 1

15 49 78 21 5 / 6

Total 196 92 15 9 / 7

Overall, the simulation achieved an average success rate of 92%

across all tested scenarios. Failures occurred mostly in high-speed head-on

V. Melkonyan

cases, where the camera's field of view was quickly saturated and

stabilization control reached its limit.

The HITL simulations closely replicated real flight dynamics,

confirming that the simulated environment reliably predicted actual flight

performance. This setup provided an effective framework for tuning tracker

thresholds, control parameters, and mission logic before deploying on real

UAVs.

B. Real-world testing

Real-world flight experiments were conducted to validate system

performance under practical operational conditions. The primary test

platform was the Reptile X500 quadrotor, with additional verification

flights on Holybro S500 [14] and Holybro X500 [15] frames to confirm

cross-platform compatibility.

Onboard processing was performed using NVIDIA Jetson modules

(Nano [16], Xavier NX [17], and Orin Nano [18]), while video input was

provided via both USB (Runcam [19]) and CSI (Raspberry Pi [20])

cameras. The camera feed was processed in real time to extract bounding

box coordinates and provide feedback to the control loop.

Flights were executed across diverse mission configurations,

including:

 Varying initial yaw, pitch, and roll orientations of the UAV

 Both stationary (size: 2𝑚 ×2𝑚 ×2𝑚) and moving targets (size:

1𝑚 ×1𝑚 ×0.5𝑚)

 Ground-based and airborne interception scenarios

 Light to moderate wind, with occasional gusts

In total, approximately 150 real-world flights were conducted. All

flights were logged, including MAVLink telemetry, onboard camera video,

and control system debug data. These logs were used for post-flight

analysis, parameter tuning, and qualitative performance evaluation.

Out of the 150 conducted experiments, 136 flights (90.6%) achieved

successful interception, confirming high consistency between simulation

and real-world behavior.

Autonomous UAV control based on camera video

Conclusion

This paper presented a vision-based autonomous control system for

UAV interception using monocular camera feedback. The proposed method

integrates proportional navigation with visual servoing and adaptive PID

control to achieve precise target alignment and collision trajectory. Both

simulation and real-world experiments demonstrated over 90% interception

success, validating the system's effectiveness and robustness. Future work

will focus on improving high-speed performance and extending the

approach to multi-target and cooperative interception scenarios.

Acknowledgment. This work was supported by the Science

Committee of RA (Research project No 23AA-1B005).

REFERENCES

1. Kun Yang, Chenggang Bai, Zhikun She and Quan Quan, 2025, January. High-speed

interception multicopter control by image-based visual servoing. IEEE

Transactions on Control Systems Technology, 33(1). РР. 119–135. arXiv preprint

arXiv:2404.08296v1.

2. Lyman, T.J., Fields, T.D., and Yakimenko, O.A., 2021. Evaluation of Proportional

Navigation for Multirotor Pursuit. Journal of Field Robotics, 38(6). РР. 1025–

1045.

3. Hailong Yan, Kun Yang, Yixiao Cheng, Zihao Wang and Dawei Li. 2025, April 4.

Precise interception flight targets by image-based visual servoing of multicopter.

arXiv preprint arXiv:2409.17497.

4. Open Source Autopilot PX4. [Online]. Available: https://px4.io/

5. Hardware-in-the-loop simulation (HITL). [Online]. Available:

https://docs.px4.io/main/en/simulation/hitl.html

6. ROS 2 (Robot Operating System). [Online]. Available: https://docs.ros.org

7. Gazebo Simulator. [Online]. Available: https://gazebosim.org/

8. Sardaryan A., Sahakyan V., Melkonyan V., Sargsyan S. 2024. An Accurate Real-

Time Object Tracking Method for Resource Constrained Devices. Proceedings of

the Institute for System Programming of the RAS, 36(3). РР. 283–294.

9. Yutao Cui, Cheng Jiang, Limin Wang, Gangshan Wu, 2022. Mixformer: End-to-

end tracking with iterative mixed attention. In Proceedings of the IEEE/CVF

Conference on Computer Vision and Pattern Recognition. РР. 13608–13618.

V. Melkonyan

10. João F. Henriques, Caseiro R., Martins P., Batista J. 2014, April. High-speed

tracking with kernelized correlation filters. IEEE Transactions on Pattern Analysis

and Machine Intelligence 37(3). РР. 583–596.

11. MAVLink. [Online]. Available: https://mavlink.io/en/

12. Bennett St. 1993, December. Development of the PID controller. IEEE Control

Systems, 13(6). РР. 58–62.

13. Lars Rundqwist, 1990. Anti-reset windup for PID controllers. Control Engineering

Practice, 1(1). РР. 37–41.

14. Holybro S500. [Online]. Available: https://holybro.com/products/s500-v2-kit

15. Holybro X500. [Online]. Available: https://holybro.com/products/x500-v2-kits

16. NVIDIA Jetson Nano. [Online]. Available:

https://developer.nvidia.com/embedded/jetson-nano

17. NVIDIA Jetson Xavier NX. [Online]. Available:

https://developer.nvidia.com/embedded/jetson-xavier-nx

18. NVIDIA Jetson Orin Nano. [Online]. Available:

https://developer.nvidia.com/embedded/learn/get-started-jetson-orin-nano-devkit

19. Runcam USB cameras. [Online]. Available: https://www.runcam.com

20. Raspberry Pi CSI camera. [Online]. Available:

https://www.raspberrypi.com/products/camera-module-3/

АВТОНОМНОЕ УПРАВЛЕНИЕ БПЛА НА ОСНОВЕ ВИДЕО С КАМЕРЫ

В.Г. Мелконян

Российско-Армянский (Славянский) университет

АННОТАЦИЯ

В данной работе представлена система автономного управления беспилот-

ным летательным аппаратом (БПЛА), основанная на обработке видеоданных с

бортовой камеры и предназначенная для перехвата и сопровождения движущих-

ся целей. Предлагаемый подход интегрирует визуальную обратную связь в ре-

альном времени с динамическим механизмом управления, который непрерывно

корректирует

траекторию полета БПЛА на основе оцененного положения цели.

Ключевые слова: автономное управление, БПЛА, навигация на основе

компьютерного зрения, визуальный контроль, управление в реальном времени.

Вестник РАУ № 2, 2025,

26-35

OI 10.24412/1829-0450-fm-2025-2-26-35 Поступила: 13.10.2025г.

УДК Сдана на рецензию: 14.10.2025г.

Подписана к печати: 21.10.2025г.

СИСТЕМА ОБНАРУЖЕНИЯ

И ИНТЕЛЛЕКТУАЛЬНОГО ПОДАВЛЕНИЯ

КАНАЛОВ СВЯЗИ БПЛА

Л.A. Киракосян

Российско-Армянский (Славянский) университет

kirakosyan.lili[email protected]

АННОТАЦИЯ

В статье представлена интеллектуальная система радио мони-

торинга и противодействия БПЛА на базе программно-определяе-

мого радио (ПОР). Система выполняет непрерывное сканирование

радиодиапазона, классификацию сигналов с помощью СНС и при

обнаружении управления или телеметрии БПЛА автоматически

активирует модуль многочастотного подавления. Эксперименты

показали точность классификации 97.82% и высокую эффектив-

ность селективного под

авления.

Ключевые слова: радио мониторинг, классификация, БПЛА,

ПОР, подавление радиосигналов.

Введение

Беспилотные летательные аппараты (БПЛА) находят широкое

применение в гражданских и военных сферах, включая мониторинг,

картографирование, сельское хозяйство и поисково-спасательные опе-

рации. Вместе с тем их несанкционированное использование создает

серьезные риски для безопасности и конфиденциальности, что требует

развития систем автоматического обнаружения и противодействия.

Л.A. Киракосян

Одним из наиболее перспективных решений являются программно-

определяемые радиосистемы (ПОР) [1], обеспечивающие гибкую

настройку приёма и обработки сигналов в широком диапазоне частот.

Существующие решения

Существует множество подходов к обнаружению и классифика-

ции радиосигналов, используемых БПЛА. В частности, в работах [2,

3] рассматриваются методы пассивного и активного радио мониторин-

га, реализуемые с помощью

ПОР. Основными методами обнаружения

являются анализ радиочастотной активности, идентификация по

спектральным характеристикам сигналов. Такие подходы позволяют

оперативно выявлять присутствие БПЛА в контролируемой зоне и

оценивать характеристики канала управления.

Для классификации всё большую актуальность приобретают

подходы на основе методов машинного обучения [4], [5] включая

сверточные нейронные сети (СНС) и анализ спектрограмм [6]. Такие

методы обеспечивают более высокую точность идентификации и ус-

тойчивость к помехам.

Для подавления сигналов используют классические методы, та-

кие как широкополосное и узкополосное глушение [7]. Первое эффек-

тивно для разрыва канала управления БПЛА, но энергоемкое; второе

позволяет избирательно подавлять отдельные частоты и меньше влия-

ет на легитимные сервисы, однако требует точного знания централь-

ной частоты цели. Современные подходы, включающие протокольно-

ориентированное подавление сигналов, при котором вмешательство

синхронизируется с характерными пакетами или каналами передачи

данных, что повышает эффективность и снижает нагрузку на систему.

Предлагаемый метод

В данной работе описывается разработанный алгоритм обнару-

жения, метод классификации и подавления сигналов БПЛА, выпол-

ненные на базе HackRF One [8] и Raspberry Pi 4 [9].

Система обнаружения и интеллектуального подавления каналов связи БПЛА

A. Обнаружение радиосигналов

В качестве метода обнаружения сигналов в разработанной сис-

теме используется метод обнаружения энергии [10]. Этот подход яв-

ляется простым, но эффективным и обеспечивает низкую вычисли-

тельную сложность при работе в реальном времени. Детектор энергии

анализирует поток данных, поступающих с радиоприемника HackRF

One, сравнивая измеренную мощность сигнала с установленным поро-

гом

, определяемым уровнем шума в полосе пропускания. Метод не

требует детальной информации о структуре сигнала – достаточно за-

дать центральную частоту и ширину полосы.

Рисунок 1. Блок-схема системы обнаружения радиосигналов.

Для реализации метода обнаружения энергии была разработана

блок-схема (Рис. 1) в среде GNU Radio [11], обеспечивающая прием и

анализ радиосигналов в реальном времени. Система осуществляет

последовательное сканирование радиочастотного диапазона от 1 МГц

до 6 ГГц с полосой пропускания 20 МГц.

Основным элементом системы является приемный модуль, взаи-

модействующий с устройством HackRF One и обеспечивающий на-

стройку параметров приёма, таких как частота и полоса пропускания.

Л.A. Киракосян

Полученный сигнал проходит преобразование Фурье с оконной функ-

цией для снижения искажений, после чего вычисляется мощность, что

позволяет определить наличие активности в выбранном диапазоне.

Для реализации алгоритма обнаружения был создан пользова-

тельский блок Energy_Detector_ff, интегрированный в среду GNU

Radio. Он использует частоту дискретизации и вероятность ложной

тревоги для адаптации чувствительности детектора. Алгоритм вычис-

ляет статистические параметры входного сигнала и формирует дина-

мический порог обнаружения: если энергия превышает порог, то сиг-

нал считается обнаруженным, в противном случае фиксируется от-

сутствие активности. Такой подход обеспечивает надежное выделение

активных радиосигналов перед этапом классификации.

Б. Классификация радиосигналов

После обнаружения активного радиосигнала выполняется этап

его классификации, основанный на анализе спектрограмм [12], полу-

ченных методом кратковременного преобразования Фурье (STFT)

[13]. Такой подход позволяет представить сигнал во временно-частот-

ной области и выделить его характерные признаки. Каждая спектро-

грамма имеет фиксированную длительность 0,25 с и используется в

качестве входных данных для модели глубокого обучения.

Для обучения и тестирования алгоритмов была сформирована

база данных, включающая 13 000 спектрограмм, относящихся к семи

категориям. В набор входят сигналы управления и телеметрии БПЛА

(DJI Mavic 3 [14], SIYI FT24 [15], Taranis X9D Plus [16], Holybro [17]),

радиопомехи, а также сигналы мобильных сетей LTE, 3G и eSIM. Да-

тасет разделён на обучающую, валидационную и тестовую выборки в

пропорции 70:20:10.

Для классификации применялись современные архитектуры

сверточных нейронных сетей ResNet-18 [18], EfficientNet-B0 [19] и

MobileNetV3-Small [20]. Обучение моделей проводилось на GPU-сис-

теме (GeForce RTX 3060) с использованием оптимизатора Adam [21] и

функции потерь кросс-энтропии. Каждая модель обучалась в течение

Система обнаружения и интеллектуального подавления каналов связи БПЛА

10 эпох при размере батча 5, что обеспечило стабильную сходимость

и минимизацию переобучения. Сравнительный анализ показал (Табл. 1),

ResNet18 обеспечивает оптимальное сочетание точности и эффектив-

ности: F1-score составляет 0.977, точность – 97.82%.

Таблица 1.

Результаты сравнительного анализа моделей классификации

Модель

F1 score macro

avg

Точность %

Recall macro

avg

Resnet18 0.977 97.82 0.979

EfficientNet-B0 0.992 99.25 0.991

MobileNetV3-Small 0.951 95.48 0.945

В. Глушение радиосигналов

Заключительным этапом разработанной системы является энер-

гоэффективное подавление радиосигналов, выявленных как управ-

ляющие или каналы телеметрии БПЛА. Цель этого этапа воздействие

на целевые радиоканалы БПЛА с минимальным влиянием на легитим-

ные коммуникационные сервисы. Особую сложность представляет

широкое применение в современных пультах управления технологии

FHSS (frequency‑hopping spread spectrum) [22]: частотные «прыжки» и

быстрая перестройка несущей частоты требуют адаптивных и широ-

кополосных методов противодействия, способных отслеживать дина-

мику спектра и оперативно формировать помеху с согласованными ха-

рактеристиками.

В среде GNU Radio были разработаны и экспериментально про-

верены различные методы подавления радиосигналов, охватывающие

как базовые, так и протокольно-ориентированные подходы: широко-

полосный шум (Barrage), тональные и многотональные помехи (Tone

и Multi-tone), сканирующее глушение (Sweep), Multi-tone Sweep, про-

токольно-скнируюшие, а также предложенный в данной работе усо-

Л.A. Киракосян

вершенствованный метод Multi-tone OFDM Sweep. Все методы функ-

ционируют в диапазоне частот от 1 МГц до 6 ГГц при полосе пропус-

кания до 20 МГц.

Метод Multi-tone OFDM Sweep, объединяющий многотональную

генерацию, согласование с OFDM-структурой [23] и динамическое

частотное сканирование. На основе анализа спектра выделяются пара-

метры целевого сигнала, после чего формируется набор OFDM-тонов,

разнесённых по частоте с заданным шагом для

усиления интермоду-

ляционных эффектов [24]. Далее формируемая помеха последователь-

но перестраивается по диапазону, что повышает вероятность попада-

ния в короткие частотные прыжки FHSS-систем.

Результаты

A. Экспериментальная установка

Для проведения экспериментов использовалась компактная сис-

тема на базе Raspberry Pi 4, HackRF One, усилителя сигнала, антенн

типа Yagi и коммутатора антенн. Raspberry Pi 4 Model B (Cortex-A72,

1.5 ГГц, 8 ГБ RAM) управляла SDR-устройством, запускала блок-схе-

мы GNU Radio и записывала данные. Для тестирования был собран

дрон с системой связи, включающей пульт управления SIYI FT24 и

приёмник SIYI mini [15].

Б. Результаты экскрементов

Проведены эксперименты по обнаружению, классификации и

глушению радиосигналов FPV-дронa. Обнаружение сигналов на дис-

танциях до 80 м подтвердило работоспособность системы. Для клас-

сификации спектрограмм тестировались все вышеперечисленные мо-

дели на Raspberry Pi 4; лучшим сочетанием времени обработки и ис-

пользования памяти показала ResNet18, результаты показаны в Табл. 2.

Во время реального тестирования в лаборатории наблюдалась кор-

ректная классификация сигналов со средней точностью 96,25%.

Система обнаружения и интеллектуального подавления каналов связи БПЛА

Таблица 2.

Результаты моделей классификации на Raspberry Pi 4

Модель

Время обработки

1 изображения

Использования

памяти

Resnet18 0.296 627.34

EfficientNet-B0 0.394 523.018

MobileNetV3-Small 0.316 476.75

Были проведены лабораторные и полевые испытания методов

глушения. В лабораторных условиях дрон находился на расстоянии 15

м от пульта управления и 2 м от системы глушения. В полевых экспе-

риментах расстояние между глушителем и пультом составляло около

1 км, а до дрона – 20–30 м. Были зафиксированы и проанализированы

значения RSSI [25], SNR [26] и потребление энергии для каждого ме-

тода глушения; измерения проводились с интервалом 10 минут, ре-

зультаты приведены в Табл. 3.

Таблица 3.

Значения RSSI, SNR и потребление энергии в полевых

и лабораторных условиях

Метод

Значение RSSI Значение SNR

Потребле-

ние энергии

Лаборато-

рия

Поле

Лаборато-

рия

Поле

Barra

e 25 70 -29 48 0.8

Tone 75 97 55 82 0.005

Multi-Tone 14 73 -34 51 0.09

Sweep 20 75 -12 61 0.07

Multi-Tone

Sweep

10 65 -43 41 0.12

OFDM Sweep 8 70 -40 45 0.06

Multi-tone

OFDM Sweep

3 50 -41 31 0.07

Л.A. Киракосян

Анализ результатов показал, что при применении метода

Multi‑tone OFDM Sweep в полевых условиях достигается наименьшее

значение RSSI и наибольшее значение SNR. Поскольку эффектив-

ность глушения повышается при увеличении SNR и снижении RSSI,

данный метод демонстрирует наибольшую эффективность. При этом

он также характеризуется относительно низким потреблением энер-

гии, что делает его оптимальным выбором среди протестированных

методов.

Заключение

Результаты работы подтверждают, что предложенные методы

обеспечивают эффективное и контролируемое воздействие на управ-

ляющие каналы беспилотных систем при соблюдении энергетических

и вычислительных ограничений. Архитектура ResNet18 показала наи-

лучшие характеристики при классификации спектрограмм в реальном

времени, что определяет ее как наиболее целесообразное решение для

практического применения в составе встроенных систем мониторинга

противодействия.

Благодарности: Работа выполнена при поддержке Комитета по на-

уке Республики Армения (исследовательские проекты № 23AA-1B009).

ЛИТЕРАТУРА

1. Mitola J., Maguire G.Q. Cognitive radio: making software radios more personal //

Proc. IEEE Personal Communications. 1999. PP. 13–18.

2. Matić V., Kosjer V., Lebl A., Pavić B., Radivojević J. Methods for Drone Detection

and Jamming // Proc. 10th International Conference on Information Society and

Technology (ICIST), Kopaonik, 8–11 March 2020. P. 16–21.

3. Slimeni F., Delleji T., Chtourou Z. RF-Based Mini-Drone Detection, Identification

& Jamming in No Fly Zones Using Software Defined Radio // Proc. International

Conference on Computational Collective Intelligence (ICCCI), Hammamet,

Tunisia, 28–30 September 2022. Springer, 2022. PP. 791–798.

4. O’Shea T., Hoydis J. An Introduction to Deep Learning for the Physical Layer //

IEEE Trans. on Cognitive Communications and Networking. 2017. Vol. 3, No. 4.

P. 563–575. DOI: 10.1109/TCCN.2017.2758370.

Система обнаружения и интеллектуального подавления каналов связи БПЛА

5. Gast M. 802.11 Wireless Networks: The Definitive Guide. Vol. 1, 2nd ed.

Sebastopol, CA: O’Reilly Media, 2005. 284p. ISBN 0596100523.

6. Podder P., Zawodniok M., Madria S. Deep Learning for UAV Detection and

Classification via Radio Frequency Signal Analysis // Proc. IEEE Int. Conf. on

Mobile Data Management. IEEE, 2024. P. 165–174. DOI:

10.1109/MDM61037.2024.00040.

7. Grover K., Lim A., Yang Q. Jamming and anti-jamming techniques in wireless

networks: a survey // International Journal of Ad Hoc and Ubiquitous Computing.

2014. Vol. 17, No. 4. P. 197–215.

8. Great Scott Gadgets. HackRF One – Software Defined Radio. Available at:

https://greatscottgadgets.com/hackrf/ (accessed 16.10.2025).

9. Upton E., Halfacree G. Raspberry Pi 4 User Guide. Wiley, 2019.

10. Cabric D., Mishra S., Brodersen R. Implementation Issues in Spectrum Sensing for

Cognitive Radios. Berkeley: Berkeley Wireless Research Center, University of

California, 2004.

11. GNU Radio Foundation. GNU Radio — The Free & Open Software Radio

Ecosystem. Available at: https://www.gnuradio.org/ (accessed 16.10.2025).

12. Tektronix. Understand RF Spectrograms. Tech Brief 48W-73795-0. Available at:

https://download.tek.com/document/Understand-RF-

Spectrograms_%20Tech%20Brief_48W-73795-0.pdf (accessed 16.10.2025).

13. Allen J., Rabiner L. A unified approach to short-time Fourier analysis and synthesis

// Proc. IEEE. 1977. Vol. 65, No. 11. PР. 1558–1564. DOI:

10.1109/PROC.1977.10770.

14. DJI. Mavic 3 – Product Support. Available at:

https://www.dji.com/global/support/product/mavic-3 (accessed 16.10.2025).

15. SIYI Technology. FT24 Radio Control System. Available at:

https://www.siyi.biz/ft24/ (accessed 16.10.2025).

16. FrSky Electronic Co. Taranis X9 Lite and X9D Plus – OpenTX Radio Systems.

Available at: https://www.frsky-rc.com (accessed 16.10.2025).

17. Holybro. Telemetry and Radio Systems. Available at: https://holybro.com

(accessed 16.10.2025).

18. He K., Zhang X., Ren S., Sun J. Deep Residual Learning for Image Recognition //

Proc. IEEE Conf. on Computer Vision and Pattern Recognition (CVPR). 2016. P.

770–778. DOI: 10.1109/CVPR.2016.90.

19. Tan M., Le Q. EfficientNet: Rethinking Model Scaling for Convolutional Neural

Networks // Proc. of the 36th Int. Conf. on Machine Learning (ICML). 2019. Vol.

97. P. 6105–6114.

20. Howard A., Zhu M., Chen B., Kalenichenko D., Wang W., Weyand T., Andreetto

M., Adam H. MobileNets: Efficient Convolutional Neural Networks for Mobile

Vision Applications. arXiv preprint, 2017. Available at:

Л.A. Киракосян

https://arxiv.org/abs/1704.04861 (accessed 16.10.2025).

21. Kingma D., Ba J. Adam: A Method for Stochastic Optimization // Proc. 3rd Int.

Conf. on Learning Representations (ICLR). 2015. Available at:

https://arxiv.org/abs/1412.6980 (accessed 16.10.2025).

22. Adamy D. EW 101: A first course in electronic warfare. Artech House, Boston,

2001. 352p.

23. Litwin L., Pugel M. The principles of OFDM // RF signal processing. 2001. Vol. 2.

РP. 30–48.

24. Матюшков А.Л., Сенюк В.О., Ступин К.В. Алгоритм радиоэлектронного по-

давления радиостанций с псевдослучайной перестройкой рабочей частоты //

Доклады Белорусского государственного университета информатики и ради-

оэлектроники. 2019. № 1(119). СС. 5–10.

25. Mohsin H., Abdulameer K., Khudhair Z. Study and performance analysis of

received signal strength indicator (RSSI) in wireless communication systems //

International Journal of Engineering and Technology. 2017. Vol. 6, No. 1. PP. 195–

200.

26. Pärlin K. Jamming of spread spectrum communications used in UAV remote

control systems. Tallinn University of Technology, School of Information

Technologies, Thomas Johann Seebeck Department of Electronics, 2017.

SYSTEM FOR DETECTION AND INTELLIGENT

SUPPRESSION OF UAV COMMUNICATION CHANNELS

L. Kirakosyan

Russian-Armenian University

ABSTRACT

The paper presents an intelligent UAV radio monitoring and countermeasure

system based on software-defined radio (SDR). The system performs continuous

spectrum scanning, signal classification using a convolutional neural network (CNN),

and automatically activates a multiband jamming module upon detection of UAV

control or telemetry signals. Experimental results demonstrated a classification

accuracy of 97.82% and high efficiency of selective jamming.

Keywords: radio monitoring, classification, UAV, SDR, radio signal

jamming.

Вестник РАУ № 2, 2025, 36-44

OI 10.24412/1829-0450-fm-2025-2-36-44 Поступила: 09.10.2025г.

УДК Сдана на рецензию: 13.10.2025г.

Подписана к печати: 21.10.2025г.

AUTONOMOUS UAV NAVIGATION

WITHOUT GNSS

V. Sahakyan

Russian-Armenian (Slavonic) University

vardan.sahakyan@student.rau.am

ABSTRACT

Reliable navigation in GNSS-denied environments remains a major

challenge for small unmanned aerial vehicles. When satellite signals are

lost or degraded, the vehicle must rely entirely on onboard sensing to

maintain control and return safely. This work presents a lightweight

fallback navigation framework that combines inertial dead reckoning and

optical flow-based velocity estimation. Both methods were implemented

and tested in the PX4 Software-in-the-Loop environment with Gazebo,

allowing safe and repeatable evaluation under simulated wind and signal-

loss conditions. Results show that dead reckoning ensures short-term

stability but accumulates large drift over distance, while optical flow

navigation provides meter-level accuracy over multi-kilometer

trajectories. Together, they offer a practical and fully autonomous

alternative to GNSS for small UAVs operating in constrained or

adversarial environments.

Keywords: GNSS-denied navigation, UAV, dead reckoning, optical

flow, PX4, Gazebo simulation.

Introduction

Unmanned aerial vehicles (UAVs) rely primarily on the Global

Navigation Satellite System (GNSS) to obtain absolute position and

V. Sahakyan

velocity estimates for flight control. However, GNSS signals are easily

degraded or lost in many real-world environments, such as dense urban

areas, forests, or indoor spaces, and can be intentionally disrupted through

jamming or spoofing. When this occurs, a UAV rapidly loses its ability to

maintain global position control and execute autonomous missions.

Ensuring continued operation under such conditions requires fallback

navigation methods that function entirely onboard and without external

references.

Modern open-source autopilots, such as PX4 [1] and ArduPilot [2],

maintain a stable attitude and altitude using inertial and barometric

feedback, but disable position-controlled modes once GNSS data is lost.

The vehicle remains flyable but effectively blind in the horizontal plane. To

restore autonomous behavior, alternative sources of motion information

must replace GNSS in the state estimator. Among available options, dead

reckoning and optical flow-based navigation stand out for their simplicity,

low cost, and real-time feasibility on lightweight UAV hardware. Both

methods can operate within the computational and sensor constraints of

standard flight controllers, providing short to mid-range navigation

capability without any external infrastructure.

This article presents a compact, fully onboard fallback navigation

framework that integrates dead reckoning and optical flow velocity

estimation within open-source autopilot systems. The framework enables

seamless transitions between GNSS-available and GNSS-denied flight,

maintaining control continuity and allowing the UAV to return safely or

continue its mission when satellite positioning fails.

Related Work

A wide range of methods have been explored for GNSS-denied

navigation, generally falling into four categories: inertial dead reckoning,

optical flow navigation, visual-inertial odometry (VIO), and simultaneous

localization and mapping (SLAM).

dead reckoning estimates position by integrating inertial sensor data

– accelerations and angular rates – from the onboard IMU [3], [4]. It offers

very low computational cost but suffers from unbounded drift due to sensor

Autonomous UAV navigation without GNSS

bias and noise accumulation. Various improvements, including bias-

compensated Kalman filters and recurrent neural network models [5], have

been proposed to slow error growth, though they remain sensitive to long-

term integration.

Оptical flow navigation determines ground-relative velocity by

measuring pixel displacements between consecutive image frames [6].

When combined with altitude data from a barometer or range sensor, it

yields metric-scale velocity that can substitute GNSS velocity inputs in the

estimator. This approach is lightweight and effective at low altitude but

limited by lighting and surface texture.

Visual-inertial odometry and SLAM methods achieve higher

accuracy and long-term consistency by jointly optimizing visual and inertial

constraints [7]–[14]. However, they depend on continuous visual features

and high-performance hardware, restricting real-time onboard use in open-

source flight stacks.

Proposed Method

The proposed fallback navigation framework activates when GNSS

updates are unavailable and replaces global positioning data with internally

estimated motion cues. It relies on two complementary sources of

information: inertial measurements for short-term motion prediction and

optical flow for ground-referenced velocity estimation. These methods

operate independently but can be combined in a layered structure to

maintain continuous control during GNSS loss.

A. Inertial dead reckoning

When GNSS becomes unavailable, a UAV can still estimate its

motion by integrating inertial and heading measurements over time. This

process-known as dead reckoning-relies solely on data from the inertial

measurement unit (IMU), magnetometer, and barometer. The IMU provides

accelerations and angular rates, the magnetometer constrains yaw, and the

barometer supplies altitude. These signals are fused in the autopilot's

Extended Kalman Filter (EKF) [15], which continues to predict the vehicle's

state even without external position updates.

V. Sahakyan

Because integration errors grow rapidly, conventional dead reckoning

becomes unreliable after only a short distance. To extend its usable range,

the proposed framework augments the estimator with a calibrated speed

model and mission-aware vector tracking.

During nominal (GNSS-available) flight, the UAV performs a short

calibration sequence in which it flies at constant pitch angles while its true

ground speed is recorded. This produces a mapping between commanded

pitch angle and forward velocity. Once GNSS is lost, the UAV can

approximate its displacement by multiplying this stored velocity with

elapsed time, while maintaining heading from the magnetometer.

Two modes of operation are supported:

 Direct Return-to-Launch (DirectRTL): the UAV aligns to the

home azimuth and flies straight using dead-reckoned distance

estimation;

 Path Return-to-Launch (PathRTL): the UAV retraces its logged

outbound path using stored inter-waypoint vectors, reducing

accumulated drift.

B. Optical Flow-Based Navigation

Optical flow navigation estimates the vehicle's horizontal motion by

observing how surface patterns move within consecutive camera frames. A

downward-looking camera captures the apparent displacement of visual

features as the UAV moves; from these displacements, image-plane

velocities are computed. When the altitude above ground is known, these

angular motions can be converted into metric ground-relative velocities.

This method effectively replaces the need for GNSS-based velocity

or position updates during flight. Because the camera measures motion

directly relative to the ground, it provides drift-free short-term information

that allows the vehicle to stabilize or retrace recent trajectories. optical flow

sensors typically include a small processor and a rangefinder, enabling

onboard calculation of two-dimensional velocity without heavy

computation.

In operation, horizontal velocity derived from optical flow is

combined with barometric altitude and inertial orientation to reconstruct the

Autonomous UAV navigation without GNSS

UAV's motion in local coordinates. As long as the ground surface exhibits

sufficient texture and lighting, these measurements remain consistent over

time. Unlike dead reckoning, where integration errors grow rapidly, optical

flow navigation constrains drift to a near-linear rate and can maintain meter-

level accuracy over hundreds of meters of travel.

The method's performance degrades over uniform surfaces, water, or

at high altitude, where ground features become indistinct. Wind and rapid

attitude changes can also distort apparent motion. Nevertheless, within

moderate altitude and lighting conditions, optical flow navigation offers a

lightweight and robust fallback option that extends autonomous flight well

beyond the limits of inertial dead reckoning.

Results

A. Simulation environment

All experiments were conducted in simulation to ensure repeatability

and safety during GNSS-denied flight. The evaluation used the PX4

Software-in-the-Loop (SITL) [16] environment with Gazebo Classic [17]

as the physics simulator. Both dead reckoning and optical flow navigation

modes were implemented using the same control logic and vehicle model.

The simulated quadrotor reproduced the sensor suite of a typical field

platform, including IMU, magnetometer, barometer, and a downward-

facing optical flow sensor with a rangefinder.

GNSS data were disabled after takeoff to emulate the loss of satellite

signals. The vehicle then executed return-to-launch maneuvers at different

distances (0.1km - 3km) and under varying wind conditions (0m/s, 2m/s,

and 5m/s). Each test was repeated twice for consistency. The mean

deviation from the starting point was used as the error metric.

B. Dead reckoning performance

In dead reckoning mode, the UAV estimated its displacement by

integrating calibrated forward velocity and heading over time.

Results showed that the error grows rapidly with both distance and

wind intensity. For short-range returns (≤ 100m), position error remained

V. Sahakyan

below 20m even with mild wind, but at larger scales it became dominant,

exceeding 1.5km at 3km flight distance. The key driver of error was heading

drift from the magnetometer, amplified by uncompensated wind effects.

Table 1.

Mean return-to-launch error for dead reckoning simulation tests

in Gazebo SITL

These results indicate that while dead reckoning ensures

controllability after GNSS loss, it can only support short-range recovery or

bridging until another aiding source becomes available.

C. Optical Flow Performance

When optical flow measurements were enabled, the UAV replaced

inertial velocity estimation with image-based ground-relative motion. This

significantly constrained drift and allowed accurate return trajectories even

over kilometer-scale flights.

Table 2 summarizes mean position errors for both DirectRTL and

PathRTL strategies under identical conditions. The optical flow-based

navigation reduced errors by nearly an order of magnitude compared to dead

reckoning. Even with moderate wind, deviations remained within 5-7% of

the traveled distance.

Table 2.

DirectRTL and PathRTL errors for Optical Flow Navigation

Autonomous UAV navigation without GNSS

Table 2 summarizes mean position errors for both DirectRTL and

PathRTL strategies under identical conditions. The optical flow-based

navigation reduced errors by nearly an order of magnitude compared to dead

reckoning. Even with moderate wind, deviations remained within 5-7% of

the traveled distance.

The results show near-linear drift growth and consistent convergence

toward the launch point. Path retracing produced slightly larger cumulative

error due to multiple short segments, but provided smoother overall flight

behavior. At higher altitudes or over visually uniform terrain, performance

degraded as the simulated flow sensor lost feature contrast

Conclusion

This study presented a lightweight fallback navigation framework for

unmanned aerial vehicles operating in GNSS-denied conditions. Two

complementary methods–dead reckoning and optical flow navigation–were

implemented and evaluated entirely in simulation using the PX4 SITL

environment with Gazebo.

Dead reckoning, based on inertial and magnetic sensing, provided

short-term controllability but exhibited rapid drift growth with distance and

wind. optical flow navigation, which derives ground-relative velocity from

image motion and altitude, achieved an order-of-magnitude improvement

in accuracy and enabled reliable return-to-launch maneuvers over distances

up to several kilometers. The results confirm that combining these

techniques forms a practical, fully onboard solution for maintaining UAV

autonomy during temporary or extended GNSS outages. Future work will

focus on adaptive fusion between optical and inertial cues, as well as

validation in real-world outdoor flights.

Acknowledgement: This work was supported by the Science Committee of

RA (Research project No 23AA-1B007).

REFERENCES

1. PX4 Autopilot, “Open-source flight control software.” [Online]. Available:

https://px4.io

V. Sahakyan

2. ArduPilot Project, “Open-source autopilot for drones, planes, and rovers.”

[Online]. Available: https://ardupilot.org

3. Hofmann-Wellenhof B., Lichtenegger H. and Collins J. GPS: Theory and

Practice. Vienna, Austria: Springer-Verlag, 1997. O.J. Woodman, “An

introduction to inertial navigation,” Univ. of Cambridge, Tech. Rep. UCAM-CL-

TR-696, 2007.

4. Abdul Majuid A. et al. GPS-denied navigation using low-cost inertial sensors and

recurrent neural networks // arXiv preprint arXiv:2109.04861, 2021.

5. Honegger D., Meier L., Tanskanen P. and Pollefeys M. An open source and open

hardware embedded metric optical flow CMOS camera for indoor and outdoor

applications // in Proc. IEEE Int. Conf. Robot. Autom. (ICRA), Karlsruhe,

Germany, May 2013. PP. 1736–1741.

6. Qin T., Li P. and Shen S. VINS-Mono: A robust and versatile monocular visual-

inertial state estimator, IEEE Trans. Robot., vol. 34, no. 4. PP. 1004–1020, Aug.

2018.

7. Geneva P., Eckenhoff K. and Huang G. OpenVINS: A research platform for

visual-inertial estimation // in Proc. IEEE Int. Conf. Robot. Autom. (ICRA), Paris,

France, Jun. 2020. PP. 4666–4672.

8. Forster C., Pizzoli M. and Scaramuzza D. SVO: Semi-direct visual odometry for

monocular and multicamera systems // in Proc. IEEE Int. Conf. Robot. Autom.

(ICRA), Hong Kong, China, May 2014. PP. 4945–4950.

9. Burri M., Nikolic J., Gohl P., Schneider T. and Scaramuzza D. The EuRoC MAV

dataset for visual inertial stereo SLAM, Int. J. Robot. Res., vol. 35, no. 10. PP.

1157–1163, Sep. 2016.

10. Schubert S., Demmel N., Usenko V. and Cremers D. The TUM VI benchmark for

evaluating visual-inertial odometry // in Proc. IEEE Int. Conf. Robot. Autom.

(ICRA), Brisbane, Australia, May 2018. PP. 1680–1687.

11. Geiger A., Lenz P. and Urtasun R. Are we ready for autonomous driving? The

KITTI vision benchmark suite // in Proc. IEEE Conf. Comput. Vis. Pattern

Recognit. (CVPR), Providence, RI, USA, Jun. 2012. PP. 3354–3361.

12. Mur-Artal R., Montiel M. and Tardós J. ORB-SLAM2: An open-source SLAM

system for monocular, stereo, and RGB-D cameras,” IEEE Trans. Robot., vol.

33, no. 5. PP. 1255–1262, Oct. 2017.

13. Engel J., Koltun V. and Cremers D. Direct sparse odometry // IEEE Trans. Pattern

Anal. Mach. Intell., vol. 40, no. 3. PP. 611–625, Mar. 2018.

14. Solà J. Quaternion kinematics for the error-state Kalman filter // arXiv preprint

arXiv:1711.02508, 2017.

15. PX4 Development Team, “PX4 software-in-the-loop (SITL) simulation guide.”

[Online]. Available: https://docs.px4.io/main/en/simulation/

Autonomous UAV navigation without GNSS

16. Gazebo Foundation. Gazebo Classic simulator documentation [Online].

Available: https://gazebosim.org

АВТОНОМНАЯ НАВИГАЦИЯ БПЛА БЕЗ GNSS

В. Саакян

Российско-Армянский (Славянский) университет

АННОТАЦИЯ

Надежная навигация в условиях отсутствия сигналов спутниковых нави-

гационных систем остаётся серьёзной задачей для малых беспилотных летатель-

ных аппаратов. При потере или ухудшении сигнала GNSS аппарат должен пол-

ностью полагаться на бортовые датчики для поддержания управления и безопас-

ного возвращения. В работе представлен облегченный резервный

навигацион-

ный комплекс, объединяющий инерциальный метод счисления пути и определе-

ние скорости по оптическому потоку. Оба метода реализованы и протестирова-

ны в среде программной симуляции PX4 (SITL) с использованием физического

моделирования Gazebo, что позволило проводить безопасные и воспроизводи-

мые испытания при имитации ветра и потери сигналов. Результаты показывают,

что инерциальное счисление пути обеспечивает кратковременную

устойчи-

вость, но быстро накапливает погрешность, тогда как навигация по оптическому

потоку обеспечивает метровую точность на многокилометровых дистанциях.

Совместное использование этих подходов обеспечивает практичную и полно-

стью автономную альтернативу GNSS для малых БПЛА, работающих в сложных

условиях.

Ключевые слова: навигация без GNSS, беспилотный летательный аппа-

рат, счисление пути, оптический поток, PX4, симулятор Gazebo․

Вестник РАУ № 2, 2025, 45-53

ФИЗИКО-ТЕХНИЧЕСКИЕ НАУКИ

OI 10.24412/1829-0450-fm-2025-2-45-53 Поступила: 10.09.2025г.

УДК 621.677

Сдана на рецензию: 10.09.2025г.

Подписана к печати: 16.09.2025г.

ИССЛЕДОВАНИЕ И РАЗРАБОТКА СИСТЕМЫ

ОПТИЧЕСКОЙ ОБРАБОТКИ СИГНАЛОВ ОТ

РАСПРЕДЕЛЕННОЙ АНТЕННОЙ РЕШЕТКИ

В СВЧ-ДИАПАЗОНЕ

Г.Г. Степанян

, А.В. Амбарцумян

1,2

Российско-Армянский (Славянский) университет

OOO «ЕИА Инжиниринг»

hrach8086@gmail.com, [email protected]

АННОТАЦИЯ

В статье рассмотрены исследования и проектирование системы

оптической обработки сигналов, поступающих от распределенной

антенной решетки в СВЧ-диапазоне. Традиционные системы обра-

ботки сигналов, такие как радиолокационные и радиопеленгацион-

ные станции, обладают высокой эффективностью, но при обнаруже-

нии становятся уязвимыми для атак и радиочастотного подавления.

Предлагаемая концепция базируется на и

спользовании электро-

оптических модуляторов (ЭОМ), которые преобразуют радиочас-

тотный сигнал в оптический для последующей передачи через воло-

конно-оптические линии связи. Это позволяет существенно снизить

уязвимость системы, размещая основную аппаратуру обработки

Исследование и разработка системы оптической обработки сигналов...

сигналов на значительном удалении от антенн, обеспечивая ее за-

щиту. В случае атаки утрата ограничивается лишь антенной, что по-

вышает общую живучесть системы в условиях активного противо-

действия. Дополнительным преимуществом является переход на оп-

тические технологии, обеспечивающие низкие потери сигнала по

сравнению с радиочастотными кабелями, где потери достигают де-

сятков дБ

на ту же длину.

Ключевые слова: оптическая обработка сигналов, электроопти-

ческий модулятор, волоконно-оптические линии связи, СВЧ-диапа-

зон, распределeнная антенная решeтка.

Введение

Современные системы обработки сигналов, такие как радиоло-

кационные станции и радиопеленгационные системы, широко приме-

няются в различных отраслях, включая оборону, телекоммуникации и

управление воздушным движением [1]. Эти системы обеспечивают

высокую точность и надежность при решении задач обнаружения, от-

слеживания и передачи данных. Однако их уязвимость при обнаруже-

нии представляет серьезную проблему, особенно в условиях потен-

циальных атак. Обнаружение излучателя (антенны) делает такие сис-

темы уязвимыми для атак, направленных на их подавление или выве-

дение из строя [2]. Одним из перспективных подходов к решению этой

проблемы является использование оптических технологий в особен-

ности оптоволокно для передачи и обработки сигналов [3]. В отличие

от традиционных радиочастотных систем, волоконно-оптические ли-

нии связи обладают рядом преимуществ: низкими потерями сигнала,

устойчивостью к электромагнитным помехам и возможностью пере-

дачи данных на большие расстояния с высокой скоростью [4].

Целью данной работы является исследование и проектирование

системы оптической обработки сигналов, поступающих от распреде-

ленной антенной решетки в СВЧ-диапазоне. Предлагаемая система ис-

пользует электрооптические модуляторы (ЭОМ) для преобразования

радиочастотных сигналов в оптические и их последующей передачи

Г.Г. Степанян, А.В. Амбарцумян

через волоконно-оптические линии связи [5]. Такая архитектура обес-

печивает не только защиту основной системы обработки, но и улуч-

шение качества передачи сигнала за счет уменьшения потерь и помех.

Существующие системы оптической обработки сигналов

В радиолокационных системах оптические технологии исполь-

зуются для повышения качества обработки сигналов [2]. Например,

системы “Radio-over-Fiber (RoF)” позволяют передавать радиочастот

ные сигналы через оптоволокно с минимальными потерями [6]. Это

особенно актуально для работы с распределенными антенными решет-

ками, где необходимо передавать сигнал от удаленных антенн к цент-

ральному процессору обработки. Существуют примеры использова-

ния оптических технологий в оборонных приложениях. Например,

системы управления беспилотными летательными аппаратами

(БПЛА) используют оптоволокно для передачи команд и данных с вы-

сокой надежностью и устойчивостью к помехам. Также в современных

радарных системах волоконно-оптические линии связи применяются

для передачи сигналов с малым затуханием [4].

Рисунок 1. Организация системы связи и передачи информации

между несколькими точками.

Исследование и разработка системы оптической обработки сигналов...

Наилучшим примером является уже существующая система свя-

зи и передачи информации между несколькими точками, которая ис-

пользует волоконно-оптическую линию связи для построения сети

(Рис. 1).

В ней используются радиочастотные приемопередатчики, а рас-

пространение и построение сети осуществляется через оптику. Преи-

мущественную роль в этой системе играет электрооптический моду-

лятор, основная

функция которого заключается в преобразовании ра-

диочастотного (РЧ) сигнала в оптический, что открывает возможность

его дальнейшей передачи через волоконно-оптические линии связи.

Электрооптический модулятор (ЭОМ) является одним из важ-

нейших компонентов системы оптической обработки сигналов. ЭОМ

работает на основе электрооптического эффекта (эффекта Поккельса),

который заключается в изменении показателя преломления материала

под воздействием электрического поля. Это изменение приводит к фа-

зовой, амплитудной, поляризационной модуляции светового сигнала.

Рисунок 2. Вид электрооптического модулятора.

Конструкция ЭОМ зависит от типа модуляции, но в большинстве

случаев включает несколько ключевых элементов: оптический волно-

вод или кристалл, через который проходит свет, электроды, создаю-

щие управляющее поле, и модулирующую среду, в которой происхо-

дит изменение оптических свойств [7]. Основные компоненты ЭОМ

включают источник света (лазерный диод или другой когерентный ис-

точник света, создающий стабильный оптический сигнал), электро-

Г.Г. Степанян, А.В. Амбарцумян

оптический кристалл (Материал с высоким коэффициентом электро-

оптического эффекта, например, ниобат лития LiNbO₃ или арсенид

галлия GaAs) и электроды (для приложения электрического поля, со-

ответствующего радиочастотному сигналу).

Принцип работы модулятора состоит в следующем: свет, прохо-

дящий по волноводу, разделяется на два пучка Y-разветвителем. Каж-

дый из разделенных пучков проходит между электродами на

поверх-

ности кристалла. Электрический сигнал вызывает изменение показа-

теля преломления светового канала. Напряжения приложены так, что-

бы ускорить движение излучения в одном плече и замедлить в другом,

что позволяет в два раза снизить требуемые управляющие напряжени-

я. Затем волны складываются Y-соединителем. Элемент изготавлива-

ется из материалов с сильным электрооптическим эффектом – таких,

как LiNbO3, GaAs, InP [7].

Предлагаемая система на основе

электрооптической обработки

Основной задачей является преобразование радиочастотного

сигнала в оптический для эффективной передачи по волоконно-опти-

ческим линиям связи и последующей цифровой обработки. На основе

уже существующих примеров предлагается система оптической обра-

ботки сигналов на основе электрооптических модуляторов. Система

направлена на повышение скрытности и безопасности станций за счет

разнесения антенны и блока обработки сигналов. Сам модулятор бу-

дет находиться под антенной, после входной цепи и малошумящего

усилителя (МШУ) (Рис. 3).

После приема сигналов от антенны в СВЧ-диапазоне, сигнал

проходит через радиочастотный тракт, где фильтруется и усиливается

через маломощный усилитель. Для следующего шага нам нужен опти-

ческий источник излучения. Для достижения высокой точности и ста-

бильности работы системы необходим лазер с распределенной обрат-

Исследование и разработка системы оптической обработки сигналов...

ной связью (DFB). Он гарантирует неизменность длины волны и уз-

кую ширину спектра. При очень больших расстояниях затухание сиг-

налов неизбежно, даже в оптических волокнах, поэтому при больших

дальностях целесообразно использовать эрбиевые волоконные усили-

тели (EDFA) в репиттерных пунктах оптической линии. Ниже на рис.

5 представлена схема системы для одной антенны.

Рисунок 3. Предлагаемая система с распределeнной антенной решeткой.

Обозначения: КПУ – контрольный пункт управления; МШУ – малошумящий

усилитель; ЭОМ – электрооптический модулятор.

Рисунок 4. Предлагаемая блок-схема системы для одной антенны.

Г.Г. Степанян, А.В. Амбарцумян

Рисунок 5. Предлагаемая схема системы для одной антенны

Обозначения: АЦП – аналого-цифровой преобразователь;

CLK – тактовый сигнал (clock).

Блок-схема демонстрирует применение оптических технологий

использования современных оптических технологий для повышения

эффективности работы с радиочастотными сигналами. Начальным

элементом системы является антенна, которая принимает радиочас-

тотное излучение от удаленных радиоисточников. Усиленный сигнал

поступает на электрооптический модулятор, который играет централь-

ную роль в этой системе. Электрооптический модулятор преобразует

радиочастотный сигнал в оптический, используя лазер. По сути, он

накладывает характеристики радиочастотного сигнала на световой

луч, создавая модулированный оптический сигнал, который готов для

передачи по волоконно-оптической линии связи. Лазер, используемый

в системе, служит источником когерентного света, который необхо-

дим для работы электрооптического модулятора. Часто используется

длина волны 1550 нм [7]. На стороне приема оптический сигнал уси-

ливается с помощью оптического усилителя, например, эрбиевого

Исследование и разработка системы оптической обработки сигналов...

усилителя. После усиления сигнал поступает на фотодетектор, кото-

рый выполняет его обратное преобразование в электрическую форму,

восстанавливая его радиочастотные характеристики. Преобразован-

ный электрический сигнал передается на аналого-цифровой преобра-

зователь (АЦП), который оцифровывает его для дальнейшей обработ-

ки [8]. На этом этапе система обеспечивает точное преобразование

аналогового сигнала в цифровую форму, что

делает возможным ис-

пользование современных методов цифровой обработки сигналов.

Выводы

Представленная блок схема эффективно сочетает оптические и

радиочастотные технологии, позволяя передавать и обрабатывать ра-

диочастотные сигналы с минимальными потерями и высокой устойчи-

востью к помехам. Использование электрооптического модулятора,

волоконно-оптических линий связи и оптических усилителей обеспе-

чивает передачу сигналов на большие расстояния, сохраняя их качест-

во. Основное преимущество системы, это разнесение антенны и блока

обработки на значительные расстояния, что повышает защищенность

и живучесть системы в случае внешних воздействий. Благодаря высо-

кой пропускной способности и малым потерям система особенно ак-

туальна для работы в СВЧ-диапазоне и при передачи широкополосных

сигналов. Этот подход открывает перспективы для использования в

радиолокации, телекоммуникациях и других областях, требующих на-

дежной и высокоэффективной передачи данных.

ЛИТЕРАТУРА

1. Smolinski Smolinski C., Daley C. Optical Signal Processing Techniques. 1982. Fort

Belvoir: Defense Technical Information Center, 120p.

2. Бояринов И.В., Кузнецов А.С. Оптические технологии в системах связи. 2018.

М.: Радио и связь, 200 с.

3. Крутов В.А., Лебедев Д.И. Электрооптические модуляторы в системах связи.

2021. М.: Журнал «Радиотехника», № 4. СС. 45–52.

4. Седов В.Н. Современные волоконно-оптические линии связи. 2022. СПб:

ЛЭТИ, 150с.

Г.Г. Степанян, А.В. Амбарцумян

5. Porzi C., Selleri S., Scotti F., et al. High-Speed Electro-Optic Modulation

Techniques for Fiber Communication Systems. 2020. New York: IEEE, Proc. IEEE

Photonics Conference. PP. 1–4.

6. Yariv A. Photonics: Optical Electronics in Modern Communications. 2006. New

York: Oxford University Press, 850p.

7. Желтиков В.А., Пасечникова Д.В., Хыдырова С. Обзор электрооптических

модуляторов в квантовых оптических интегральных схемах” МГТУ им. Н.Э.

Баумана, 2022

8. Kazovsky L., Li W., Shaw S. Optical Fiber Communication Systems. 2012. Berlin:

Springer, 320p.

RESEARCH AND DEVELOPMENT OF THE SYSTEM OPTICAL SIGNAL

PROCESSING FROM A DISTRIBUTED ANTENNA ARRAY IN THE

MICROWAVE RANGE

H. Stepanyan

, H. Hambardzumyan

1,2

Russian-Armenian (Slavonic) University

InstitLtd. YEA Engineering

ABSTRACT

This paper examines the research and design of an optical signal processing

system for a distributed antenna array operating in the microwave range. Traditional

signal processing systems, such as radar and direction-finding stations, are highly

effective but become vulnerable to attacks and suppression once detected. The

proposed concept is based on the use of electro-optical modulators (EOM), which

convert radio frequency signals into optical signals for subsequent transmission via

fiber-optic communication lines. This approach significantly reduces system

vulnerability by enabling the placement of the main signal processing equipment at a

considerable distance from the antennas, ensuring its safety. In the event of an attack,

the loss is limited to the antenna, thus improving the overall survivability of the system

under hostile conditions. Another advantage is the transition to optical technologies,

which ensure lower signal losses compared to radio frequency cables, where losses can

reach tens of dB over the same length.

Keywords: Optical signal processing, electro-optical modulator, fiber-optic

communication lines, microwave range, distributed antenna array.

Вестник РАУ № 2, 2

025, 54-69

БИОЛОГИЧЕСКИЕ НАУКИ

DOI 10.24412/1829-0450-fm-2025-2-54-69 Поступила: 03.09.2025г.

УДК 577

Сдана на рецензию: 04.09.2025г.

Подписана к печати: 10.09.2025г.

INTEGRATED ANALYSIS OF HUMAN

RETROELEMENT-LINKED HISTONE

MODIFICATIONS FOR IDENTIFYING RAPIDLY

EVOLVING ONCOGENIC PROCESSES

D. Nikitin

“BostonGene Technologies” LTD

daniil.nikiti[email protected]

ORCID: 0000-0003-1029-1174

ABSTRACT

Human retroelements (REs), which comprise approximately 40% of

the genome, have played a pivotal role in the evolution of key molecular

processes, such as placental development, by introducing novel

regulatory elements near host gene promoters and enhancers. Despite

their genomic abundance and regulatory influence, the functional

trajectories of REs remain poorly understood. Here, leveraging ChIP-seq

profiles of histone modifications (H3K4me1, H3K4me3, H3K9ac,

H3K27ac, H3K27me3, and H3K9me3) from five human cell lines

deposited in the ENCODE database, we systematically ranked the

regulatory impact of REs across 25,075 human genes. Gene sets enriched

for promoter- and enhancer-associated RE-linked regulatory sites were

identified. Consensus gene sets across cell lines were found to be

D. Nikitin

associated with pathways involved in cancer progression, specifically

chronic myeloid leukemia and small cell lung cancer, as well as with host

defense responses to infection with human T-cell lymphotropic virus type

1. These findings provide new insights into recent human evolution and

highlight the ongoing influence of selfish genetic elements on genome

regulation and disease susceptibility.

Keywords: retroelements, retrotransposons, genome evolution,

chromatin, histone modifications.

Introduction

Human retroelements (REs, also called retrotransposons), namely

LTRs, SINEs and LINEs, comprise 40% of the genome [1], [2]. They

impact the host genome by providing regulatory sites [3] and novel protein

coding genes, manifesting themselves in various human diseases [4]. For

example, human endogenous retroviruses (LTR) derived protein coding

genes suppress maternal anti fetal immune response in placenta (like

syncytin-1 [5]). All REs transpose via an RNA intermediate and then a DNA

copy is synthesized and inserted into other genomic locus. Therefore, REs

bear transcription factor binding sites enriched with active chromatin marks

(H3K4me1, H3K4me3, H3K29ac etc.) that can rewire the host gene

regulatory networks [6]. On the other hand, REs can be repressed by the

host defense mechanisms, such as CpG methylation, which allows to

mitigate deleterious effects of new genetic elements insertion near essential

genes [7]. In a greater perspective, there is an evolutionary arms race

between mobile selfish genetic elements and host defensive systems [8],

which leads to such complex innovations as adaptive immunity, including

both the microbial (CRISPR-Cas) and the vertebrates one (VDJ-

recombination) [8].

In order to decipher the evolutionary impact of REs on human gene

regulation, in 2018-2019 we analyzed genome profiles of transcription

factors and chromatin modifications in connection with RE loci and their

impact onto the adjacent gene expression. In 2018 we studied 225

transcription factors binding profiles in the K562 cell line and measured

Integrated analysis of human retroelement-linked histone modifications...

regulatory impact of human REs, including the evolutionary young ones

(inserted after the radiation of Old World monkeys) [1]. We found that such

molecular processes as PDGF, TGF beta, EGFR, and p38 signaling were

positively regulated by evolutionary young REs [1]. In 2019 we expanded

the analysis, profiling 563 transcription factors binding in 13 cell lines [9],

as well as the enhancer-specific chromatin modification H3K4me1 [10] and

simultaneously five chromatin marks (H3K4me3, H3K9ac, H3K27ac,

H3K27me3 and H3K9me3 [11]). We developed the original method called

RetroSpect and showed that such human molecular processes as gene

regulation by microRNAs, olfaction, color vision, fertilization, cellular

immune response, and amino acids and fatty acids metabolism and

detoxification were enriched with RE-specific regulation and hence were

quickly evolving under the RE pressure [9].

Despite the significant progress being made, the field remains

generally unexplored. Chromatin marks form a complex interactive system

with readers, writers and erasers, collectively regulating gene expression

[12]. In the previous articles we gathered gene-level RE regulatory impact

scores for the following chromatin marks:

- H3K4me1 - active enhancer specific [13]

- H3K27ac - active enhancer specific [14]

- H3K4me3 - promoter specific [15]

- H3K9ac - promoter specific [16]

- H3K27me3 - polycomb repression specific [17]

- H3K9me3 - heterochromatin specific [18]

In the present work we jointly analyse active promoters, enhancers

and heterochromatin RE-linked chromatin marks at the level of genes, based

on the fact that REs can both activate and inactivate adjacent human genes

because the defensive host heterochomatinisation which is relevant in

pathology, for example in X-linked dystonia parkinsonism [19]. The

proposed comprehensive intersection analysis based on the original

RetroSpect method allowed to show that RE-linked promoter histone marks

activate chronic myeloid leukemia and small cell lung cancer connected

genes in all 5 cell lines under study. Moreover, the RE-linked promoter

regulation impacts such general cancer associated processes as cell cycle

D. Nikitin

and cellular senescence. Surprisingly, we observed RE-linked upregulation

of human T-cell leukemia virus type 1 infection related genes and the level

of promoter specific histone modifications. In contrast, active RE-linked

enhancers are more cell type specific and do not form cell line consensus

groups of enriched processes. Taken together, these findings push forward

our understanding of human RE-impacted evolution of gene regulatory

networks in health and disease.

Materials and methods

Gene-level scores. Scores of RE-linked epigenetic marks regulatory

impact were downloaded for 6 chromatin modifications (H3K4me1,

H3K27ac, H3K4me3, H3K9ac, H3K27me3 and H3K9me3) and for 5 cell

lines (K562, HepG2, GM12878, MCF-7, HeLa-S3) from the previously

published papers [10], [11]. The scores were calculated based on more than

1.5 million histone tags for 25075 genes. The following scores were used in

the current research:

- GRE, gene RE-linked enrichment score.

- NGRE, normalized gene RE-linked enrichment score.

Formulas and biological meaning of these scores are described in

Nikitin et al., 2019a [10].

Selection of RE-linked regulatory impact enriched and deficient

genes. According to the original RetroSpect approach [9], for each

chromatin modification in each cell line we plotted NGRE vs GRE in a

scatter plot, build a trend line by the method of least squares [20], and top-

10% and bottom-10% genes by their distance to the trend line were selected.

Genes from the top-10% group (with NGRE score high compared to the

GRE one) were considered RE-enriched, the latter group was deemed RE-

deficient.

Plots and visualizations. Plots were drawn using the python

matplotlib [21] and seaborn [22] packages, Venn diagrams were drawn

using the python supervenn [23] package. Principal component analysis

(PCA) with centroid approximation was done using the python scikit-learn

package [24].

Integrated analysis of human retroelement-linked histone modifications...

Gene Ontology analysis. Gene Ontology analysis was done using the

ShinyGo service from South Dakota State University [25].

Results and discussion

Dimensional reduction and major data properties.

In order to study the degree of cell-specific and chromatin

modification-specific differences for the dataset of NGRE and GRE scores

in 6 chromatin modifications and 5 cell lines, we performed principal

component analysis with centroid approximation (Fig. 1).

Figure 1. Principal component analysis of GRE and NGRE scores. A – PCA of GRE

colored by cell line, B – PCA of GRE colored by histone modification, C – PCA of NGRE

colored by cell line, D – PCA of NGRE colored by histone modification. Centroid

approximations are drawn with 95% confidence intervals. The palettes for cell lines in A

and C are the same, as well as the palettes for chromatin modifications in B and D.

D. Nikitin

Mapping of different cell lines with the same histone modifications

intersects to a high degree (Fig. 1B, 1D) with heterochromatin marks

clustering differently compared to the active chromatin ones both for GRE

(Fig. 1B) and NGRE (Fig. 1D). Notably, H3K4me1, the active enhancer

mark, is mapped separately in both cases, and the second active enhancer

one, H3K27ac, is located the most highly differing between the cell lines.

Contrastingly, different cell lines do not form isolated groups, albeit they

are from different organs and tissues (Fig. 1A, 1C). This corresponds with

fundamental differences between chromatin marks in terms of their

functioning, whereas cell line specific patterns are less pronounced.

Selection of RE-enriched and deficient genes for individual cell

lines and chromatin modification

According to the original RetroSpect procedure [10], for all 5 cell

lines and 6 chromatin modifications we correlated NGRE and selected RE-

enriched and deficient genes (Fig. 2).

Out of 30 all combinations, 5 ones showed negative correlations

because of two highly divergent linear trends: H3K27ac, H3K4me3,

H3K9ac in the cell line HeLa-S3, and H3K4me3, H3K9ac in the cell line

MCF-7. The two heterochromatin histone modifications (H3K27me3 and

H3K9me3) and the enhancer specific one H3K4me1 showed no negative

linear trends, mimicking the patterns observed earlier by us [9]. The major

difference of the current approach applied here is the fact that RE-enriched

and deficient genes are extracted individually by cell lines and chromatin

modification, whereas earlier the GRE scores of different cell lines and

epigenomic features (such as transcription factors) were averaged [10]. At

this stage of the analysis the functional significance of the selected RE-

enriched and deficient genes is unclear, so further intersections and Gene

Ontology approaches were applied as described below.

Integrated analysis of human retroelement-linked histone modifications...

Figure 2. Correlations of NGRE (y-axis) and GRE scores for 5 cell lines (shown by rows,

names written on the leftmost part of the plot grid) and 6 chromatin modifications (shown

by rows, names written on the bottom part of the plot grid). For each plot the linear trend

line was built using the least squares method, and top 10% genes with the highest distance

to the curve from above are shown in green (RE-enriched genes), top 10% genes with the

highest distance to the curve from below are shown in red (RE-deficient genes) and the

rest 80% genes are blue.

Intersection of the RE-enriched and deficient genes based

on different cell line and histone modifications

In order to understand how REs impact human gene regulation via

different histone modifications and in different cell lines, we intersected

RE-enriched and deficient genes by different modifications with each other,

repeating the procedure in all 5 cell lines (Fig. 3).

D. Nikitin

Integrated analysis of human retroelement-linked histone modifications...

Figure 3. Supervenn plot showing intersections between RE-enriched (abbreviated as

‘top’) and RE-deficient (abbreviated as ‘bottom’) for each histone modification (shown on

each row) for each cell line. A - GM12878, B - HeLa-S3, C - HepG2, D - K562, E - MCF-

7. Each gene set is shown using a different color. Colored grey rectangles denote the

successful intersection (common genes), white and light grey ones indicate no intersection.

Intersection groups that have more than 500 genes have gene numbers written in the

bottom of each panel.

The intersection analysis shows that different cell lines have different

interplay of RE-linked active and repressive chromatin marks. For example,

the K562 cell line (Fig. 3D) has a large cluster of genes (1161) that share

promoter and enhancer active marks (H3K27ac, H3K4me3, H3K9ac)

without any heterochromatin marks - this can be interpreted as genes that

are actively regulated by REs. In contrast, in MCF-7 (Fig. 3E) such a cluster

is less than 500 genes, and 692 genes are RE-enriched by active marks

(H3K27ac, H3K4me3, H3K9ac) and both repressive marks simultaneously,

which pinpoints ambiguity of RE-linked epigenetic regulation of the host

genes. The same situation is observed in HepG2 (716 genes, Fig. 3C),

whereas in GM12878 (Fig. 3A) and HeLa-S3 (Fig. 3B) both types of

clusters are present: the one with the active marks only and the one with

active and repressive marks (either H3K9me3 or H3K27me3, respectively).

This can be connected with the fact the RE evolutionary pressure is exerted

at different intensities between tissues, with placenta [26] and neocortex

[27] being one of the most invaded by REs (transcriptionally active) and

hence quickly evolving in the human lineage.

D. Nikitin

Promoter and enhancer-level RE-enriched genes selection

among the five cell lines

Having the dataset of GRE and NGRE for 5 cell lines and 6 histone

modifications, we got 12 sets of RE-enriched and deficient genes in each

cell line. In order to get cell line consensus of promoters and enhancers

specific RE-enriched genes, we defined enhancers and promoters RE-

enriched genes in the following way for each cell line:

 Enhancer specific genes that are intersection of RE-enriched genes

by H3K4me1 and H3K27ac, and RE-enriched genes by

heterochromatin marks (H3K9me13 and H3K27me3) are

subtracted from this intersection.

 Promoter specific genes that are intersection of RE-enriched genes

by H3K4me3 and H3K9ac, and RE-enriched genes by

heterochromatin marks (H3K9me13 and H3K27me3) are

subtracted from this intersection in the same way.

Figure 4. Supervenn plot showing intersections of enhancer (enhancers_top) and promoter

(promoter_top) specific RE-enriched genes in the 5 cell lines investigated in the current

study. The numbers on the right part of the plot are indicating gene numbers in the sets

shown. Each gene set is shown using a different color. Colored grey rectangles denote the

successful intersection (common genes), white and light grey ones indicate no intersection.

Intersection groups that have more than 100 genes have gene numbers written in the

bottom of each panel. Numbers on the top part of the plot are showing the number of gene

sets that share the intersection (for cases with more than 100 genes).

Integrated analysis of human retroelement-linked histone modifications...

For each cell line we obtained a variable number of promoter and

enhancer RE-enriched genes, and we intersected them between all the cell

lines to get the degree of cell-specificity in RE-linked genes regulation and

regulatory evolution (Fig. 4).

The intersection patterns shown in Fig. 5 illustrate the degree of

concordance between RE-enriched promoter- and enhancer-associated

regulation across different cell lines. Notably, 92 promoter-associated RE-

enriched genes were shared across all five cell lines (ranging from 548 to

1,745 genes per cell line), whereas only three enhancer-associated RE-

enriched genes were common (from 194 to 566 genes per cell line). This

disparity likely reflects the greater variability of enhancer-associated

chromatin modifications (H3K4me1 and H3K27ac; Fig. 3), as well as the

well-established observation that transcriptional regulation at promoters is

more conserved across tissues than at enhancers [28]. Furthermore,

promoter- and enhancer-specific RE-enriched gene sets exhibited minimal

overlap within each cell line, suggesting that distinct subsets of REs –

potentially corresponding to different RE classes – modulate gene

expression at the promoter and enhancer levels, respectively. This

hypothesis warrants further investigation through integrative computational

analyses and experimental validation.

Functional characterization of the cell line consensus promoter

and enhancer-level RE-enriched genes

The consensus RE-enriched promoter and enhancer genes are shown

in the Table 1 below.

Table 1.

The list of consensus RE-enriched promoter and enhancer genes

D. Nikitin

The genes found were tested for functional enrichment using the Gene

Ontology approach [29] via the ShinyGO portal [25] without the

background genes, and the enrichment processes were filtered by False

Discovery Rate [30] threshold 0.1. The resulting processes for the RE-

enriched promoter genes are shown in Table 2.

Table 2.

The list of enrichment results for RE-enriched promoter genes

Enrichment

FDR-corrected

p-value

Number of

genes from

RE-enriched

promoters in

the process

Number of

genes in the

process

Fold

Enrichment

The process

with the GO

knowledgebase

hyperlink

0.02 4 92 12.6

Small cell lung

cancer

0.064 3 76 11.4

Chronic

myeloid

leukemia

0.044 4 126 9.2 Cell cycle

0.016 6 222 7.8

Human T-cell

leukemia virus

1 infection

0.064 4 156 7.4

Cellular

senescence

Integrated analysis of human retroelement-linked histone modifications...

Gene Ontology analysis (Table 2) revealed that human REs

transcriptionally activate genes associated with two major cancer types –

small cell lung cancer and chronic myeloid leukemia – as well as genes

upregulated during infection with human T-cell leukemia virus type 1

(HTLV-1), a retrovirus that, similar to HIV, targets CD4⁺ T cells [31]. These

findings raise the possibility that RE-mediated regulatory activity and

evolutionary selection may operate, at least in part, through the

transcriptional repurposing of pre-existing host defense mechanisms, a

phenomenon exemplified by placental evolution [5]. Additional enriched

gene sets, including cell cycle regulation and cellular senescence – both

canonical hallmarks of cancer [32] – further support the notion that

promoter-associated, RE-enriched regulatory programs are linked to

oncogenesis. By contrast, no statistically significant functional enrichments

were observed for the three enhancer-associated, RE-linked genes identified

(MIR4674, NALT1, and LINC01132), two of which are non-coding.

Conclusion

We investigated the regulatory impact of retroelements (REs) on

human gene regulation by analyzing promoter-associated, enhancer-

associated, and heterochromatin-associated histone modifications, using

ChIP-seq whole-genome profiles from five human cell lines. Clustering and

intersection analyses revealed that RE-associated regulatory activity at

enhancers exhibits a high degree of cell type specificity, providing a

foundation for further studies on the mechanisms underlying this

specificity. In contrast, RE-associated regulation at active promoters

appeared to be more conserved across different cell types. Notably, REs

were found to activate pathways related to cancer-associated processes,

including cellular senescence and cell cycle regulation. These pathways are

linked to cancer diseases such as small cell lung cancer and chronic myeloid

leukemia, and RE-associated regulatory activity also impacts host cell

defense mechanisms against human T-cell lymphotropic virus type 1.

Collectively, these findings advance our understanding of the role of REs

in human evolution and oncogenesis.

D. Nikitin

REFERENCES

1. Nikitin D. et al. Profiling of Human Molecular Pathways Affected by

Retrotransposons at the Level of Regulation by Transcription Factor Proteins //

Front. Immunol., 2018 Jan 30;9:30. doi: 10.3389/fimmu.2018.00030.

2. Lander E.S. et al. Initial sequencing and analysis of the human genome // Nature,

2001 Feb 15;409(6822):860-921. doi: 10.1038/35057062.

3. Cardelli M. The epigenetic alterations of endogenous retroelements in aging //

Mech Ageing Dev. 2018 Sep;174:30-46. doi: 10.1016/j.mad.2018.02.002.

4. Fan T.-J. and Cui J. Human Endogenous Retroviruses in Diseases // Subcell

Biochem. 2023;106:403-439. doi: 10.1007/978-3-031-40086-5_15.

5. Wang Q. et al. Molecular mechanisms of syncytin-1 in tumors and placental

development related diseases // Discov Oncol. 2023 Jun 16;14(1):104. doi:

10.1007/s12672-023-00702-6.

6. Göke J. and Ng H.H. CTRL+INSERT: retrotransposons and their contribution to

regulation and innovation of the transcriptome // EMBO Rep. 2016

Aug;17(8):1131-44. doi: 10.15252/embr.201642743.

7. Chuong E.B. et al. Regulatory activities of transposable elements: from conflicts

to benefits // Nat Rev Genet. 2017 Feb;18(2):71-86. doi: 10.1038/nrg.2016.139.

8. Koonin E.V. Viruses and mobile elements as drivers of evolutionary transitions //

Philos Trans R Soc Lond B Biol Sci. 2016 Aug 19;371(1701):20150442. doi:

10.1098/rstb.2015.0442.

9. Nikitin D. et al. Retroelement-Linked Transcription Factor Binding Patterns Point

to Quickly Developing Molecular Pathways in Human Evolution // Cells. 2019a

Feb 6;8(2):130. doi: 10.3390/cells8020130.

10. Nikitin D. et al. Retroelement-Linked H3K4me1 Histone Tags Uncover

Regulatory Evolution Trends of Gene Enhancers and Feature Quickly Evolving

Molecular Processes in Human Physiology // Cells. 2019b Oct 8;8(10):1219. doi:

10.3390/cells8101219.

11. Igolkina A.A. et al. H3K4me3, H3K9ac, H3K27ac, H3K27me3 and H3K9me3

Histone Tags Suggest Distinct Regulatory Evolution of Open and Condensed

Chromatin Landmarks // Cells. 2019 Sep 5;8(9):1034. doi: 10.3390/cells8091034.

12. Ueberheide B.M. et al. On the Hunt for the Histone Code // Mol Cell Proteomics.

2024 Dec;23(12):100873. doi: 10.1016/j.mcpro.2024.100873.

13. Rada-Iglesias A. Is H3K4me1 at enhancers correlative or causative? // Nat Genet.

2018 Jan;50(1):4-5. doi: 10.1038/s41588-017-0018-3.

14. Creyghton M.P. et al. Histone H3K27ac separates active from poised enhancers

and predicts developmental state // Proc Natl Acad Sci U S A. 2010 Dec

14;107(50):21931-6. doi: 10.1073/pnas.1016071107.

Integrated analysis of human retroelement-linked histone modifications...

15. Liang G. et al. Distinct localization of histone H3 acetylation and H3-K4

methylation to the transcription start sites in the human genome // Proc Natl Acad

Sci U S A. 2004 May 11;101(19):7357-62. doi: 10.1073/pnas.0401866101.

16. Karmodiya K. et al. H3K9 and H3K14 acetylation co-occur at many gene

regulatory elements, while H3K14ac marks a subset of inactive inducible

promoters in mouse embryonic stem cells // BMC Genomics. 2012 Aug

24;13:424. doi: 10.1186/1471-2164-13-424.

17. Ku M. et al. Genomewide Analysis of PRC1 and PRC2 Occupancy Identifies Two

Classes of Bivalent Domains // PLoS Genet. 2008 Oct;4(10):e1000242. doi:

10.1371/journal.pgen.1000242.

18. Nicetto D. et al. H3K9me3-heterochromatin loss at protein-coding genes enables

developmental lineage specification // Science. 2019 Jan 18;363(6424):294-297.

doi: 10.1126/science.aau0583.

19. Horváth V. et al. Mini-heterochromatin domains constrain the cis-regulatory

impact of SVA transposons in human brain development and disease // Nat Struct

Mol Biol. 2024 Oct;31(10):1543-1556. doi: 10.1038/s41594-024-01320-8.

20. Charnes A. et al. The Equivalence of Generalized Least Squares and Maximum

Likelihood Estimates in the Exponential Family // J Am Stat Assoc. 1976 Mar;

71(353):169-171. doi: 10.1080/01621459.1976.10481508.

21. “Matplotlib – Visualization with Python.” Accessed: Apr. 22, 2025. [Online].

Available: https://matplotlib.org/

22. “An introduction to seaborn – seaborn 0.13.2 documentation.” Accessed: Apr. 22,

2025. [Online]. Available: https://seaborn.pydata.org/tutorial/introduction.html

23. Fedor, gecko984/supervenn. (Apr. 15, 2025). Python. Accessed: Apr. 22, 2025.

[Online]. Available: https://github.com/gecko984/supervenn

24. “PCA,” scikit-learn. Accessed: Apr. 22, 2025. [Online]. Available: https://scikit-

learn/stable/modules/generated/sklearn.decomposition.PCA.html

25. Ge S.X. et al. ShinyGO: a graphical gene-set enrichment tool for animals and

plants // Bioinformatics. 2020 Apr 15;36(8):2628-2629. doi:

10.1093/bioinformatics/btz931.

26. Yu M. et al. Endogenous retrovirus-derived enhancers confer the transcriptional

regulation of human trophoblast syncytialization // Nucleic Acids Res. 2023 Jun

9;51(10):4745-4759. doi: 10.1093/nar/gkad109.

27. Garza R. et al. Single-cell transcriptomics of human traumatic brain injury reveals

activation of endogenous retroviruses in oligodendroglia // Cell Rep. 2023 Nov

28;42(11):113395. doi: 10.1016/j.celrep.2023.113395.

28. Razin S.V. and Ulianov S.V. Divide and Rule: Phase Separation in Eukaryotic

Genome Functioning // Cells. 2020 Nov 15;9(11):2480. doi:

10.3390/cells9112480.

D. Nikitin

29. Gene Ontology Consortium et al. The Gene Ontology knowledgebase in 2023 //

Genetics. 2023 May 4;224(1):iyad031. doi: 10.1093/genetics/iyad031.

30. Benjamini Y. and Hochberg Y. Controlling the False Discovery Rate: A Practical

and Powerful Approach to Multiple Testing // J R Statist Soc Ser B Methodol.

1995 Jan;57(1):289–300. doi: 10.1111/j.2517-6161.1995.tb02031.x.

31. Hirons A. et al. Human T-cell lymphotropic virus type-1: a lifelong persistent

infection, yet never truly silent // Lancet Infect Dis. 2021 Jan;21(1):e2-e10. doi:

10.1016/S1473-3099(20)30328-5.

32. Hanahan D., Hallmarks of Cancer: New Dimensions // Cancer Discov.2022 Jan;

12(1):e31-e46. doi: 10.1158/2159-8290.CD-21-1059.

СОВМЕСТНЫЙ АНАЛИЗ МОДИФИКАЦИЙ ГИСТОНОВ

РЕТРОЭЛЕМЕНТОВ ЧЕЛОВЕКА ДЛЯ ВЫЯВЛЕНИЯ БЫСТРО

ЭВОЛЮЦИОНИРУЮЩИХ ПРОЦЕССОВ ОНКОГЕНЕЗА

Д. М. Никитин

ООО “BostonGene Technologies”

АННОТАЦИЯ

Ретроэлементы человека (RE), составляющие около 40% генома, оказыва-

ют значительное влияние на эволюцию регуляторных систем, включая развитие

плаценты, посредством инсерции

новых регуляторных элементов вблизи промо-

торов и энхансеров генов хозяина. Несмотря на их распространённость и функ-

циональную активность, механизмы регуляторного действия RE остаются слабо

изученными. В данной работе проведeн системный анализ ChIP-seq профилей

модификаций гистонов (H3K4me1, H3K4me3, H3K9ac, H3K27ac, H3K27me3,

H3K9me3), полученных из пяти линий человеческих клеток (по данным

ENCODE), с целью ранжирования регуляторного вклада RE в экспрессию 25 

075

генов. Обнаружены генные наборы, обогащенные RE-ассоциированными регу-

ляторными участками в областях промоторов и энхансеров. Консенсусные набо-

ры между клеточными линиями оказались связаны с патогенезом хронического

миелоидного лейкоза, мелкоклеточного рака лeгкого и иммунным ответом на

инфекцию вирусом T-клеточной лейкемии человека 1 типа. Полученные резуль-

таты расширяют представление о роли ретроэлементов в

недавней эволюции че-

ловека и подчеркивают их значимость в регуляции генома и предрасположен-

ности к заболеваниям.

Ключевые слова: ретроэлементы, ретротранспозоны, эволюция генома,

хроматин, модификации гистонов.

Вестник РАУ № 2, 2

025, 70-81

DOI 10.24412/1829-0450-fm-2025-2-70-81 Поступила: 23.10.2025г.

УДК 577.29(577.322.9)

Сдана на рецензию: 24.10.2025г.

Подписана к печати: 31.10.2025г.

ARTIFACTS CAUSED BY CRYSTALLOGRAPHIC

NEIGHBORS DURING DOCKING.

THE IMPORTANCE OF THE BIOLOGICAL UNIT

FOR EVALUATING DOCKING ACCURACY

H. Grabski

L.A. Orbeli Institute of Physiology NAS RA

Hovakim_gra[email protected]

ORCID: https://orcid.org/0000-0001-6115-9339

ABSTRACT

Reliable structure-based virtual screening critically depends on the

accuracy of experimental protein–ligand complexes. However, many

crystallographic models in the Protein Data Bank (PDB) contain crystal-

packing neighbors that distort the local geometry of binding sites. In this

work, the impact of crystallographic neighbors on molecular docking

accuracy using Molsoft ICM-Pro was systematically assessed. All

ligands were docked starting from two-dimensional structures, without

prior conformational information, to mimic realistic virtual screening

conditions. Across three representative systems Schistosoma mansoni

SmBRD3(2), human TIM-3, and USP5 ZnF-UBD that crystal neighbors

can have a huge impact was observed. Incorporating neighboring

molecules yielded dramatic improvements, reducing RMSD values

below 2 Å and substantially enhancing docking and RTCNN scores. The

results emphasize the necessity of careful analysis of crystallographic

structures before docking to ensure correct biological unit,

reproducibility, reliability, and meaningful interpretation of

computational screening outcomes.

Keywords: Virtual screening, Crystallographic neighbors, Molecular

docking, Protein–ligand interactions, Structure-based drug discovery.

H. Grabski

Introduction

Virtual screening (VS) has become an indispensable tool in

contemporary drug discovery, enabling the rapid identification of candidate

molecules from vast chemical libraries through computational evaluation of

ligand–target interactions [1]. By integrating molecular docking,

pharmacophore modeling, and machine learning-based scoring, VS

substantially reduces the time and cost associated with early-stage drug

development compared to purely experimental approaches. The reliability

of virtual screening outcomes, however, is critically dependent on the

structural accuracy and biological relevance of the macromolecular models

employed.

Experimental structural biology methods, most notably X-ray

crystallography and cryo-electron microscopy (cryo-EM), serve as the

primary sources of three-dimensional protein structures for structure-based

drug design [2,3]. These techniques have collectively produced hundreds of

thousands of entries in the Protein Data Bank (PDB) [4], providing an

unprecedented foundation for rational ligand discovery. Nonetheless, the

interpretation of these structures for computational screening requires

careful contextualization. Specifically, protein crystals represent periodic

arrangements of molecules stabilized by intermolecular contacts that may

not reflect biologically relevant conformations or interfaces.

A frequently overlooked aspect of this crystallographic context is the

presence of crystallographic neighbors, or symmetry related molecules

generated by the crystal lattice. These neighbors can create artificial

interfaces or occlude biologically meaningful binding sites. When such

artificial surfaces are inadvertently treated as part of the functional protein

surface during virtual screening, docking algorithms may identify binding

pockets or predict energetically favorable yet biologically irrelevant poses.

A recent and notable example of this issue arose in the PoseBusters

benchmark [5], a large-scale evaluation framework designed to assess the

accuracy of pose prediction algorithms. The initial dataset comprised over

500 protein-ligand complexes; however, following peer review, it was

Artifacts caused by crystallographic neighbors during docking...

identified that a significant portion of these entries were influenced by

crystallographic neighbors. After these cases were removed, the benchmark

was reduced to 393 validated examples. This correction not only

highlighted the pervasiveness of crystal packing artefacts in publicly

available structural data but also emphasized the necessity of rigorous

structural validation in computational benchmarking. The PoseBusters case

serves as a compelling reminder that even carefully curated datasets can be

compromised by unrecognized crystallographic contacts, affecting the

perceived performance of docking and scoring methods.

Therefore, increasing awareness of crystallographic artefacts and

incorporating validation steps that distinguish biologically meaningful

assemblies from packing, induced contacts is essential for improving the

fidelity of structure, based virtual screening. This study underscores the

significance of crystallographic neighbors in X-ray–derived protein

structures and proposes practical approaches for their identification and

mitigation, aiming to enhance the biological interpretability and predictive

power of virtual screening workflows.

Material and Methods

Molecular Docking and Visualization

To quantitatively assess the impact of crystallographic neighbors on

virtual screening outcomes, molecular docking simulations using Molsoft

ICM-Pro were performed (version 3.9-4a; Molsoft LLC, La Jolla, CA,

USA) [6]. All protein structures were visualized, prepared, and analyzed

within the ICM-Pro environment. The software’s docking algorithm

employs a biased-probability Monte Carlo (BPMC) sampling approach for

exploring ligand conformational space [6]. This stochastic method

generates three-dimensional conformations by random perturbations of

internal coordinates, guided by a probability function that biases sampling

toward low-energy configurations.

H. Grabski

Docking Configuration

For each target–ligand complex, the docking grid (or “box”) was

centered on the position of the co-crystallized ligand, with dimensions

encompassing a 5 Å radius surrounding the ligand atoms. This

configuration was chosen to ensure sufficient coverage of the binding

pocket while avoiding inclusion of irrelevant surface regions or symmetry

related molecules. To maintain computational realism and comparability

with practical virtual screening workflows, the docking effort parameter

was set to 5, and the maximum number of generated ligand conformations

was limited to 10 per compound.

Ligand Preparation

In all docking experiments, ligands were provided exclusively in their

two-dimensional (2D) representations (SMILES format) without any pre-

assigned three-dimensional coordinates or conformational information.

This approach ensured that each ligand’s 3D geometry was generated from

scratch during the docking process, thereby emulating realistic early-stage

drug discovery scenarios where only chemical structure is known. No prior

assumptions regarding bioactive conformations were made. Partial charges,

rotatable bonds, and atom types were automatically assigned using ICM-

Pro’s internal parameterization routines.

Scoring and Pose Evaluation

The algorithm for conformational sampling 3D structures of ligands

is generated randomly by biased probability Monte Carlo [6]. All scoring

functions and predictions were performed by the method implemented in

ICM-Pro v3.9-4a [6]. For each ligand, the top-scoring pose was retained for

subsequent analysis. Comparisons were made between docking runs

performed on native protein structures and those influenced by

crystallographic neighbors, enabling a direct quantification of the artificial

effects on pose prediction and score.

Artifacts caused by crystallographic neighbors during docking...

All docking simulations were executed on a Linux workstation

equipped with 8 CPU cores and 64 GB of RAM. Visualization of resulting

poses and protein–ligand interactions was performed using ICM-Pro.

Results

Case Study 1: Schistosoma mansoni Bromodomain 3

(SmBRD3(2))

To illustrate the practical implications of neglecting crystallographic

neighbors in structure based virtual screening, the X-ray structure 7AMC

[7] was examined, representing the Bromodomain 2 of Bromodomain

containing protein 3 (SmBRD3(2)) from Schistosoma mansoni in complex

with the small molecule inhibitor iBET726. S. mansoni is a parasitic

trematode responsible for intestinal schistosomiasis, a major neglected

tropical disease affecting millions globally. The pathology of

schistosomiasis arises primarily from the host immune reaction to parasite

eggs lodged in the intestinal and hepatic vasculature. Given its significant

global health burden, S. mansoni proteins - including bromodomains

involved in epigenetic regulation - represent promising therapeutic targets.

In the PDB: 7AMC structure, the co-crystallized inhibitor iBET726

(CCD: 73B) is bound within the canonical acetyl-lysine recognition pocket

of SmBRD3(2). To evaluate the docking reliability, two separate docking

experiments using Molsoft ICM-Pro under identical parameters were

conducted - first using the isolated asymmetric unit, and then with

crystallographic neighbors explicitly included. The resulting comparisons

clearly demonstrated the influence of crystal packing on docking accuracy.

When the structure was treated in isolation, docking of iBET726

yielded an ICM score of –18.00 and an RTCNN score of –28.49, with a

root-mean-square deviation (RMSD) of 8.00 Å relative to the experimental

pose (Figure 1A). This RMSD indicates a severe misplacement of the

predicted binding pose, suggesting that the docking algorithm failed to

recapitulate the experimentally observed ligand position. The electron

density maps show close contacts with symmetry-related molecules in the

H. Grabski

crystal lattice, indicating that relevant intermolecular interactions had been

omitted from the docking environment (Figure 1B).

After incorporating the crystallographic neighbors into the docking

setup, the predicted results improved dramatically. The ICM docking score

increased to –38.00, the RTCNN score to –41.00, and the RMSD dropped

to 0.83 Å, indicating excellent agreement with the experimental ligand pose

(Figure 1C).

These findings emphasize that overlooking crystallographic

neighbors can lead to substantial errors in virtual screening and pose

validation. Even when such contacts arise from crystal packing rather than

true biological assemblies, their structural and electrostatic influence can

distort docking results. Therefore, researchers should carefully examine

electron density maps and crystal symmetry to determine whether

neighboring molecules represent biologically meaningful interfaces or

artefacts before employing such structures in computational studies.

Fig. 1. Influence of crystallographic neighbors on docking accuracy (PDB ID: 7AMC).

(A) Docking of the ligand into the crystallographic structure as deposited, showing

suboptimal alignment with the experimental pose.

(B) Examination of the electron density map reveals the presence of a crystallographic

neighbor interacting within the binding site, suggesting its potential influence on ligand

positioning.

perfect overlap with the experimental ligand conformation.

Artifacts caused by crystallographic neighbors during docking...

Case Study 2: Human TIM-3 Immune Checkpoint

A second example demonstrating the impact of crystallographic

neighbors involves the X-ray structure 7M41, which captures the T-cell

immunoglobulin and mucin domain-containing molecule 3 (TIM-3;

HAVCR2) bound to the small molecule inhibitor compound 38, formally

described as N-(4-(8-chloro-2-methyl-5-oxo-5,6-dihydro-[1,2,4]triazolo

[1,5-c]quinazolin-9-yl)-3-methylphenyl)-1H-imidazole-2-sulfonamide [8].

TIM-3 has emerged as an important immune checkpoint target in oncology,

acting as a negative regulator of T-cell activation and contributing to

immune exhaustion.

Fig. 2 Influence of crystallographic neighbors on docking accuracy (PDB ID: 7M41).

(A) Docking of the ligand into the crystallographic structure as deposited, showing

suboptimal alignment with the experimental pose.

(B) Examination of the electron density map reveals the presence of a crystallographic

neighbor interacting within the binding site, suggesting its potential influence on ligand

positioning.

perfect overlap with the experimental ligand conformation.

Using the 7M41 structure in its deposited form (without considering

symmetry-related molecules), docking of compound 38 yielded an ICM

H. Grabski

score of –15.00, an RTCNN score of –27.00, and an RMSD of 3.50 Å

relative to the crystallographic ligand pose (Figure 2A). The moderate

RMSD suggested a partially correct orientation but significant deviations

from the experimentally observed geometry. Upon inspecting the electron

density, the neighboring asymmetric units formed close packing

interactions around the ligand pocket, suggesting that the absence of these

contacts distorted the electrostatic and steric environment during docking

(Figure 2B). Upon redocking with the inclusion of crystallographic

neighbors, the docking score improved markedly to –43.74, the RTCNN

score to –64.18, and the RMSD decreased to 0.27 Å, indicating near perfect

agreement with the experimental pose (Figure 2C).

Case Study 3: USP5 Zinc-Finger Ubiquitin-Binding Domain

(ZnF-UBD)

A third illustrative case is the X-ray structure of the USP5 ZnF-UBD

co-crystallized with (5-((4-(4-chlorophenyl)piperidin-1-yl)sulfonyl)picolinoyl)

glycine (PDB ID: 7MS7 [9]), a member of a novel chemical series that

targets the C-terminal ubiquitin-binding site of USP5 [7]. USP5 (ubiquitin-

specific protease 5) is a deubiquitinase implicated in several diseases,

including cancer, through its role in ubiquitin recycling and proteostasis

regulation. Despite its biological importance, no selective USP5-targeting

chemical probe has yet been reported. The ZnF-UBD domain represents a

secondary, poorly characterized binding region that can be exploited to

allosterically inhibit catalytic activity.

When the default structure was used without considering symmetry

related contacts, docking yielded a score of –31.00, an RTCNN score of –

23.00, and an RMSD of 4.40 Å, indicating suboptimal pose prediction

(Figure 3A). The electron density revealed proximity of the ligand pocket

to a crystallographic neighbor, suggesting potential lattice mediated

stabilization (Figure 3B). Upon repeating the docking with the neighbor

included, the docking score improved to –36.00, the RTCNN score to –

33.00, and the RMSD dropped dramatically to 0.54 Å (Figure 3B). This

substantial improvement further demonstrates how crystallographic

neighbors affect computational modeling.

Artifacts caused by crystallographic neighbors during docking...

Fig. 3 Influence of crystallographic neighbors on docking accuracy (PDB ID: 7MS7).

(A) Docking of the ligand into the crystallographic structure as deposited, showing

suboptimal alignment with the experimental pose.

(B) Examination of the electron density map reveals the presence of a crystallographic

neighbor interacting within the binding site, suggesting its potential influence on ligand

positioning.

perfect overlap with the experimental ligand conformation.

Conclusions

This study demonstrates that neglecting crystallographic neighbors in

X-ray structures can have a profound and often underestimated impact on

the accuracy of structure-based virtual screening. Through three

representative case studies, Schistosoma mansoni SmBRD3(2), human

TIM-3, and USP5 ZnF-UBD, showed that excluding neighboring molecules

during docking consistently led to substantial deviations in ligand pose

prediction and energy scoring. Inclusion of crystallographic neighbors, by

contrast, restored agreement with experimental data and dramatically

improved RMSD values, highlighting that even non-biological packing

interactions can alter the physicochemical landscape of a binding site.

These findings underscore that many protein–ligand complexes

deposited in the Protein Data Bank (PDB) contain symmetry related

H. Grabski

contacts that can distort the perceived accessibility or geometry of a binding

pocket. Consequently, automated docking workflows that ignore this

context risk producing misleading or irreproducible results. This issue has

direct implications not only for individual virtual screening projects.

By integrating awareness of crystallographic context and performing

targeted validation, researchers can improve both the reliability and

biological relevance of computational screening. As virtual screening

continues to expand through automation and machine learning, the

importance of structural correctness cannot be overstated.

To ensure robustness and reproducibility in structure based virtual

screening, the following best practices are recommended:

1. Inspect crystallographic neighbors using molecular visualization

tools (e.g., ICM-Pro, PyMOL, etc.) before initiating docking or

virtual screening.

2. Verify biological assemblies through the PDB’s BIOUNIT entries

to differentiate biologically relevant interfaces from crystal

packing artefacts.

3. Evaluate electron density maps (via Electron Density Server or

PDB-REDO) to confirm the integrity and completeness of the

ligand and nearby residues.

4. Avoid blind automation – manual validation of key structures

remains essential, especially when preparing benchmark datasets

or training data for AI-driven docking and scoring models.

Acknowledgements. The author is thankful to Prof. Ruben Abagyan for fruitful and

helpful discussion and access to computational infrastructure and for providing access to

the MolSoft ICM-Pro software package, which was instrumental in conducting this study.

The author is also thankful to Siranuysh Grabska for valuable feedback. The research was

supported by the Science Committee of MESCS RA, in the frames of the research projects

№ 25FAST-1F002.

REFERENCES

1. Sabe V.T. et al. Current trends in computer aided drug design and a highlight of

drugs discovered via computational techniques: A review // European Journal of

Medicinal Chemistry. 2021. Vol. 224. P. 113705.

Artifacts caused by crystallographic neighbors during docking...

2. Renaud J.-P. et al. Cryo-EM in drug discovery: achievements, limitations and

prospects // Nat Rev Drug Discov. 2018. Vol. 17, № 7. PP. 471–492.

3. Maveyraud L., Mourey L. Protein X-ray Crystallography and Drug Discovery //

Molecules. 2020. Vol. 25, № 5. P. 1030.

4. Burley S.K. et al. Protein Data Bank (PDB): The Single Global Macromolecular

Structure Archive // Methods Mol Biol. 2017. Vol. 1607. PP. 627–641.

5. Buttenschoen M., Morris G.M., Deane C.M. PoseBusters: AI-based docking

methods fail to generate physically valid poses or generalise to novel sequences //

Chem. Sci. 2024. Vol. 15, № 9. PP. 3130–3139.

6. Abagyan R., Totrov M., Kuznetsov D. ICM-A new method for protein modeling

and design: Applications to docking and structure prediction from the distorted

native conformation // J. Comput. Chem. 1994. Vol. 15, № 5. PP. 488–506.

7. Schiedel M., McDonough M.A., Conway S.J. SmBRD3(2), Bromodomain 2 of the

Bromodomain 3 protein from Schistosoma mansoni in complex with iBET726:

7amc. 2021.

8. Rietz T.A. et al. Fragment-Based Discovery of Small Molecules Bound to T-Cell

Immunoglobulin and Mucin Domain-Containing Molecule 3 (TIM-3) // J. Med.

Chem. 2021. Vol. 64, № 19. PP. 14757–14772.

9. Mann M.K. et al. Structure–Activity Relationship of USP5 Inhibitors // J. Med.

Chem. 2021. Vol. 64, № 20. PP. 15017–15036.

АРТЕФАКТЫ, ВЫЗВАННЫЕ КРИСТАЛЛОГРАФИЧЕСКИМИ

СОСЕДЯМИ ПРИ ДОКИНГЕ. ВАЖНОСТЬ БИОЛОГИЧЕСКОЙ

ЕДИНИЦЫ ДЛЯ ОЦЕНКИ ТОЧНОСТИ ДОКИНГА

О.В. Грабский

Институт Физиологии им

. Л.А.Орбели НАН РА

АННОТАЦИЯ

Надежность виртуального скрининга, основанного на структурных дан-

ных, критически зависит от точности экспериментальных комплексов белок–

лиганд. Однако многие кристаллографические модели, представленные в Банке

данных белковых структур (PDB), содержат кристаллографические соседи, ко-

торые искажают локальную геометрию сайтов связывания. В данной работе сис-

тематически оценивалось влияние

кристаллографических соседей на точность

молекулярного докинга с использованием программы Molsoft ICM-Pro. Все ли-

H. Grabski

ганды докировались, начиная с двумерных структур, без предварительной ин-

формации о конформации, чтобы имитировать реалистичные условия виртуаль-

ного скрининга. Для трех репрезентативных систем – Schistosoma mansoni

SmBRD3(2), человеческого TIM-3 и USP5 ZnF-UBD – было показано, что крис-

таллографические соседи могут оказывать значительное влияние. Включение

кристаллографических соседей привело к резкому улучшению результатов, сни-

жению RMSD ниже 2 Å и существенному повышению

оценок докинга. Резуль-

таты подчеркивают необходимость тщательного анализа кристаллографических

структур перед докингом для обеспечения корректного выбора биологической

единицы, воспроизводимости, надежности и осмысленной интерпретации ре-

зультатов вычислительного скрининга.

Ключевые слова: Виртуальный скрининг, кристаллографические соседи,

молекулярный докинг, взаимодействия белок–лиганд, структурно-ориентиро-

ванный поиск лекарств.

Вестник РАУ № 2, 2025, 82-92

Поступила: 23.10.2025г.

DOI 10.24412/1829-0450-fm-2025-2-82

-92

УДК 577 .29(577.322.9)

Сдана на рецензию: 24.10.2025г.

Подписана к печати: 31.10.2025г.

EFFECT OF EGFR CONFORMATIONAL

PLASTICITY ON THE ACCURACY

OF COVALENT EGFR INHIBITOR DOCKING:

AN IMPROVED APPROACH

S. Grabska

L.A. Orbeli Institute of Physiology NAS RA

e-mail: siranuysh_gra[email protected]

ORCID: https://orcid.org/0000-0001-9291-3357

ABSTRACT

Selecting the appropriate crystallographic conformation of a target

protein is essential for reliable structure-based virtual screening. In this

study, conformational variability of the epidermal growth factor receptor

(EGFR) was investigated and how it influences docking accuracy of

Afatinib, a dual covalent inhibitor of EGFR, and HER2. Using five EGFR

crystal structures (4G5J, 4I22, 3W33, 3POZ, and 5U8L), self- and cross-

docking analyses were performed in ICM-Pro to assess binding precision,

pose stability, and scoring performance. Self-docking of Afatinib into its

native complex (4G5J) reproduced the experimental pose with an RMSD

of 0.95 Å, validating the protocol. Among alternative conformations,

4I22 yielded the closest structural agreement, demonstrating an RMSD

of 1.02 Å and superior docking scores, while other structures showed

substantial deviations in key active-site residues, resulting in distorted

poses and lower binding scores. These findings reveal that subtle

rearrangements of residues surrounding Cys797, Met793, and Lys745

critically affect ligand accommodation and covalent bond formation. The

results emphasize that protein conformational selection, particularly from

high-resolution structures - profoundly influences docking fidelity.

Incorporating multiple conformations through cross- docking enhances

S. Grabska

predictive robustness and better reflects the dynamic nature of protein–

ligand recognition in virtual screening workflows.

Keywords: EGFR, afatinib, covalent inhibitor, cross-docking, protein

conformation.

Introduction

The selection of an appropriate crystallographic structure of a protein

is a critical step in any structure-based virtual screening project. The

accuracy and predictive power of docking results strongly depend on the

conformational state of the protein model used. Proteins are inherently

dynamic and exist in an ensemble of conformations rather than in a single

static structure. This intrinsic conformational plasticity reflects their ability

to adopt multiple structural states in response to environmental conditions

or ligand binding, profoundly influencing ligand recognition and binding

affinity [1].

A single protein can display distinct conformations depending on the

nature of its bound molecules, such as small-molecule modulators, peptides,

cofactors, and other factors. Each binding event can stabilize a particular

structural state, altering the geometry and physicochemical properties of the

binding pocket. Consequently, the success of virtual screening is closely

tied to how accurately the selected protein structure represents the

biologically relevant conformation for ligand binding. Choosing an

inappropriate conformation may lead to the exclusion of potentially active

compounds or, conversely, to the prioritization of false positives [1].

This issue is particularly relevant for both non-covalent and covalent

ligand screening, where the spatial arrangement and flexibility of key

residues determine the feasibility of binding. In recent years, the importance

of considering protein flexibility, either through ensemble docking, cross-

docking, or molecular dynamic simulations-based approaches, has become

increasingly recognized. Among these, cross-docking provides a practical

means to evaluate the compatibility of ligands across multiple receptor

conformations, thereby identifying the most suitable structural models for

virtual screening.

Effect of EGFR conformational plasticity on the accuracy of covalent EGFR inhibitor...

In this study, a systematic cross-docking analysis using Afatinib, a

dual covalent inhibitor of the epidermal growth factor receptor (EGFR) [2]

and human epidermal growth factor receptor 2 (HER2), was performed [3].

As a model system, the co-crystal structure of Afatinib bound to EGFR was

selected, along with four additional EGFR crystallographic structures

complexed with different ligands. This approach was used to assess how

variations in EGFR conformations influence docking accuracy and ligand

accommodation. By comparing docking results across multiple receptor

conformations, highlighting the impact of structural selection on virtual

screening outcomes and providing insights into best practices for receptor

preparation in structure-based drug discovery.

Materials and Methods

The crystallographic structure of the epidermal growth factor receptor

(EGFR) in complex with Afatinib was obtained from the Protein Data Bank

(PDB ID: 4G5J) [4]. This structure represents the covalent complex

between Afatinib and EGFR, in which the acrylamide warhead of Afatinib

forms an irreversible covalent bond with the Cys797 residue located in the

ATP-binding pocket of the kinase domain. This interaction stabilizes the

inactive conformation of EGFR and serves as a reference for evaluating

ligand-receptor compatibility in subsequent docking studies.

To assess the influence of receptor conformation on docking

accuracy, four additional EGFR crystallographic structures bound to

different ligands were selected: 4I22 [5], 3W33 [6], 3POZ [7], and 5U8L

[8]. The selection criteria were based on (i) high structural resolution,

ensuring accurate representation of side-chain orientations and binding-site

geometry, and (ii) the inclusion of either covalent or non-covalent ligands,

providing a diverse set of conformational states. These structures

encompass multiple EGFR conformations, thereby enabling a comparative

analysis of ligand binding across distinct receptor conformations.

All computational procedures, including ligand preparation, docking,

and visualization, were performed using MolSoft ICM-Pro (version 3.9-4a;

Molsoft LLC, La Jolla, CA, USA) [9]. The receptor structures were

S. Grabska

preprocessed by removing water molecules and heteroatoms not directly

involved in ligand binding. Covalent docking was applied to model the

interaction between the Afatinib acrylamide group and the sulfur atom of

Cys797. Cross-docking experiments were then conducted by docking

Afatinib into the selected EGFR conformations to evaluate binding

consistency and conformational adaptability.

Visualization and post-docking analyses, including examination of

covalent bond geometry, and root-mean-square deviation (RMSD) values

between predicted and experimental poses, were also performed in ICM-

Pro.

Results

A docking analysis of Afatinib was performed using five

crystallographic structures of EGFR, one of which corresponds to the

experimentally co-crystallized complex (PDB ID: 4G5J). The docking

outcomes for all receptor conformations are summarized in Table 1.

As expected, the self-docking of Afatinib into its native crystal

structure (4G5J) reproduced the experimentally observed ligand pose with

high precision, yielding RMSD of 0.95 Å between the predicted and co-

crystallized conformations (Figure 1). This result confirms that the docking

protocol and parameterization in ICM-Pro were well-suited for modeling

covalent binding interactions, accurately capturing the geometry of the

acrylamide-Cys797 linkage.

Figure 1. Conformation of co-crystallized and docked Afatinib.

Effect of EGFR conformational plasticity on the accuracy of covalent EGFR inhibitor...

Among the cross-docking experiments, Afatinib displayed the best

agreement with the receptor conformation from PDB ID: 4I22, achieving

an RMSD of 2.39 Å. Notably, the binding-site residues of 4I22 exhibit a

spatial arrangement highly similar to those of the 4G5J structure,

particularly in the vicinity of Cys797, Met793, and Lys745. This structural

similarity likely accounts for the favorable docking score and pose

alignment obtained with 4I22, which in some cases surpassed the score

observed in the self-docking experiment. These findings indicate that 4I22

represents a receptor conformation well-suited for modeling Afatinib

binding and may serve as a viable alternative for structure-based virtual

screening of related inhibitors.

In contrast, the remaining three EGFR structures 3W33, 3POZ, and

5U8L demonstrated substantial conformational deviations in the residues

forming the Afatinib binding pocket. These deviations resulted in

significant distortions of the predicted poses and markedly lower docking

scores. The altered orientation of side chains within the hinge region and

the displacement of the catalytic loop residues appear to prevent the

formation of the characteristic hydrogen-bonding and covalent interactions

observed in the 4G5J complex.

Collectively, these results emphasize that the choice of

crystallographic conformation has a decisive impact on docking

performance, and that cross-docking analyses can effectively identify

receptor models most compatible with the ligand of interest.

Docking performance of Afatinib across different EGFR

crystallographic conformations. Summary of docking and cross-docking

results for Afatinib using five EGFR crystal structures. The co-crystal

structure (PDB ID: 4G5J) served as the reference for self-docking, while

four additional structures (4I22, 3W33, 3POZ, and 5U8L) were used for

cross-docking experiments. “Ligand interacting atoms RMSD” represents

the deviation of key interacting residues relative to the 4G5J conformation,

while “Ligand RMSD” indicates the deviation of the predicted ligand pose

from the crystallographic reference. Docking performance is evaluated by

ICM-Pro Score, RTCNN score, and Average Score, with lower (more

negative) values indicating stronger predicted binding affinity and better

overall docking quality.

S. Grabska

Table 1.

PDB ID

Resolu

tion

(Å)

Type of

docking

Ligand

interacting

atoms

RMSD (Å)

Ligand

RMSD

(Å)

Score

RTCNN

score

Average

Score

4G5J 2.8 Self 0 0.95 -29 -30.72 -29.86

4I22 1.71 Cross 2.39 1.02 -31.14 -44.11 -37.62

3W33 1.7 Cross 2.74 4.29 -9.12 -38.03 -23.57

3POZ 1.5 Cross 2.56 4.37 -14.21 -31.28 -22.75

5U8L 1.6 Cross 2.83 4.21 -8.72 -23.24 -15.98

A comparative analysis of the co-crystallized Afatinib and its cross-

docked conformations reveals that the orientation of the 3-chloro-4-

fluoroanilino group is influenced by the conformation of residue M766

(Figure 2).

The amino acids R841 and D800 play a crucial role in stabilizing the

4-dimethylamino-trans-but-2-enamide tail of Afatinib, which contains the

Michael acceptor warhead responsible for forming a covalent bond with

C797. Their proper positioning ensures optimal alignment of the reactive

site and facilitates effective covalent inhibition of the EGFR kinase domain.

Furthermore, the conformation of the (S)-tetrahydrofuran-3-yloxy

group of Afatinib is largely influenced by the spatial orientation and

flexibility of residue K728. Variations in K728 orientation can lead to

significant differences in ligand fitting and overall docking accuracy across

EGFR conformations.

It was observed that the conformations of these key residues in the co-

crystallized Afatinib–EGFR complex (PDB ID: 4G5J) closely resemble

those in the EGFR structure 4I22, which likely explains why 4I22 yielded

the most accurate docking pose and best scoring performance. This

structural similarity indicates that 4I22 provides a biologically relevant

receptor conformation for reproducing experimentally observed binding

modes.

Effect of EGFR conformational plasticity on the accuracy of covalent EGFR inhibitor...

Figure 2. Co-crystallized afatinib (PDB ID: 4G5J) and predicted afatinib conformations

docke

d to various crystallographic EGFR structures (4I22, 3W33, 3POZ, 5U8L). Amino

acid residues exhibiting conformational differences among the five EGFR crystal

structures are highlighted with circles.

In contrast, the corresponding residues in the other EGFR structures

(3W33, 3POZ, and 5U8L) exhibit pronounced conformational variability,

particularly in flexible loop regions surrounding the binding pocket. These

deviations disrupt optimal ligand orientation, leading to reduced scoring

accuracy and less reliable docking predictions across different EGFR

conformations.

Thus, the predicted ligand conformation strongly depends on the

conformational state of the amino acid residues surrounding the binding

site, emphasizing the importance of local structural context. Accurate

docking results require careful consideration of receptor flexibility and

selection of the most representative protein conformation for computational

modeling.

S. Grabska

Conclusions

This study highlights the critical importance of selecting an

appropriate crystallographic conformation of a target protein for structure-

based virtual screening. Using Afatinib, a dual covalent inhibitor of EGFR

and HER2, as a model compound, its docking performance was

systematically compared across five EGFR crystal structures. The results

clearly demonstrate that variations in receptor conformation strongly

influence the predicted binding pose, docking score, and overall quality of

ligand–receptor interactions.

The self-docking of Afatinib into its native complex (PDB ID: 4G5J)

reproduced the experimental pose with sub-angstrom accuracy (RMSD 0.95

Å), validating the reliability of the docking protocol. Among the cross-

docking experiments, structure 4I22 exhibited the closest alignment of

binding-site residues to the 4G5J conformation, resulting in the most

accurate and energetically favorable docking of Afatinib. Conversely, the

remaining structures (3W33, 3POZ, 5U8L) displayed significant deviations

in the binding pocket, correlating with poorer docking scores and distorted

ligand poses. Here are the recommendations for conducting Virtual

Screening:

1. It is advisable to use protein conformations obtained from high-

resolution crystallographic structures, as they provide more

accurate atomic positions and reliable hydrogen-bonding

geometries. High-resolution data minimizes coordinate

uncertainty, improves docking precision, and reduces false-

positive predictions by ensuring that the binding site is modeled

with maximal structural fidelity and minimal distortion.

2. For virtual screening, it is recommended to employ multiple

diverse conformations of the target protein simultaneously,

representing different biologically relevant states. This ensemble

docking strategy increases the likelihood of identifying true

binders, captures receptor flexibility, and improves hit diversity by

accounting for dynamic changes in the active site that may

influence ligand accommodation.

Effect of EGFR conformational plasticity on the accuracy of covalent EGFR inhibitor...

3. When selecting crystallographic structures for docking, careful

attention should be paid to the specific ligand co-crystallized with

the protein. Ligands can induce local conformational changes that

significantly affect binding pocket geometry; therefore, choosing

structures complexed with chemically similar ligands enhances

predictive accuracy and biological relevance of virtual screening

outcomes.

Collectively, these findings confirm that protein conformational

plasticity plays a decisive role in determining docking outcomes. Even

subtle rearrangements within the ATP-binding site can markedly alter

ligand accommodation and scoring performance. Therefore, careful

structural selection or the use of ensemble and cross-docking strategies are

essential to improve the robustness and predictive power of virtual

screening workflows.

Acknowledgements. The author is thankful to Prof. Ruben Abagyan for fruitful and

helpful discussion and access to computational infrastructure and for providing access to

the MolSoft ICM-Pro software package, which was instrumental in conducting this study.

The author is also thankful to Hovakim Grabski for valuable feedback. The research was

supported by the Science Committee of MESCS RA, in the frames of the research projects

№ 25FAST-1F002.

REFERENCES

1. Waszkowycz B., Clark D., Gancia E. Outstanding challenges in protein–ligand

docking and structure‐based virtual screening // WIREs Comput Mol Sci. 2011.

Vol. 1, № 2. PP. 229–259.

2. Uribe M., Marrocco I., Yarden Y. EGFR in Cancer: Signaling Mechanisms, Drugs,

and Acquired Resistance // Cancers. 2021. Vol. 13, № 11. P. 2748.

3. Cheng X. A Comprehensive Review of HER2 in Cancer Biology and Therapeutics

// Genes. 2024. Vol. 15, № 7. P. 903.

4. Solca F. et al. Target Binding Properties and Cellular Activity of Afatinib (BIBW

2992), an Irreversible ErbB Family Blocker // The Journal of Pharmacology and

Experimental Therapeutics. 2012. Vol. 343, № 2. PP. 342–350.

5. Gajiwala K.S. et al. Insights into the Aberrant Activity of Mutant EGFR Kinase

Domain and Drug Recognition // Structure. 2013. Vol. 21, № 2. PP. 209–219.

S. Grabska

6. Kawakita Y. et al. Design and synthesis of novel pyrimido[4,5-b]azepine

derivatives as HER2/EGFR dual inhibitors // Bioorganic & Medicinal Chemistry.

2013. Vol. 21, № 8. PP. 2250–2261.

7. Aertgeerts K. et al. Structural analysis of the mechanism of inhibition and allosteric

activation of the kinase domain of HER2 protein // J Biol Chem. 2011. Vol. 286,

№ 21. PP. 18756–18765.

8. Zhao Q. et al. Broad-Spectrum Kinase Profiling in Live Cells with Lysine-Targeted

Sulfonyl Fluoride Probes // J Am Chem Soc. 2017. Vol. 139, № 2. PP. 680–685.

9. Abagyan R., Totrov M., Kuznetsov D. ICM-A new method for protein modeling

and design: Applications to docking and structure prediction from the distorted

native conformation // J. Comput. Chem. 1994. Vol. 15, № 5. PP. 488–506.

ВЛИЯНИЕ КОНФОРМАЦИОННОЙ ПЛАСТИЧНОСТИ EGFR НА

ТОЧНОСТЬ ДОКИНГА КОВАЛЕНТНОГО ЛЕКАРСТВА EGFR:

УСОВЕРШЕНСТВОВАННЫЙ ПОДХОД

С.В. Грабска

Институт Физиологии им. Л.А.Орбели НАН РА

АННОТАЦИЯ

Выбор подходящей кристаллографической конформации белка имеет ре-

шающее значение

для надёжности структурно-основанного виртуального скри-

нинга. В данном исследовании изучалось, как конформационная изменчивость

рецептора эпидермального фактора роста (EGFR) влияет на точность докинга

Афатиниба, двойного ковалентного ингибитора EGFR и HER2. Используя пять

кристаллических структур EGFR (4G5J, 4I22, 3W33, 3POZ и 5U8L), был прове-

ден анализ само- и кросс-докинга с помощью программы ICM-Pro для оценки

точности связывания, стабильности поз и

эффективности оценочных функций.

Само-докинг Афатиниба в его нативный комплекс (4G5J) воспроизвёл экспери-

ментальную позу с RMSD 0,95 Å, что подтвердило корректность протокола. Сре-

ди альтернативных конформаций структура 4I22 показала наибольшее структур-

ное соответствие, продемонстрировав RMSD 1,02 Å и лучшие значения оценоч-

ных функций, тогда как другие структуры имели существенные отклонения в

ключевых аминокислотных остатках активного центра, что

приводило к иска-

жённым позам и снижению оценки связывания. Эти результаты показывают, что

незначительные отклонения аминокислот Cys797, Met793 и Lys745, критически

Effect of EGFR conformational plasticity on the accuracy of covalent EGFR inhibitor...

влияют на конформацию лиганда и формирование ковалентной связи. Получен-

ные данные подчёркивают, что выбор конформации белка, особенно при исполь-

зовании структур с высоким разрешением, существенно влияет на точность до-

кинга. Включение нескольких конформаций при кросс-докинге повышает

предсказательную надёжность и лучше отражает динамическую природу взаи-

модействия белок–лиганд в процессах виртуального скри

нинга.

Ключевые слова: EGFR, Афатиниб, ковалентный ингибитор, кросс-до-

кинг, конформация белка.

СВЕДЕНИЯ ОБ АВТОРАХ

Амбарцумян А.В. аспирант первого года обучения по специальности

«Физика полупроводников» Российско-Армянско-

го (Славянского) университета

Арутюнян Л.А. аспирант кафедры электроэнергетики Националь-

ного политехнического университета Армении

Берберян С.Л. д.ф.-м.н., доцент, профессор кафедры математики и

математического моделирования Российско-Ар-

мянского (Славянского) университета

Драмбян А. К. аспирант третьего года о

бучения по специальности

«Математическое моделирование, численные мето-

ды и комплексы программ» Российско-Армянского

(Славянского) университета

Казарян А.А. аспирант Национального политехнического уни-

верситета Армении, преподаватель кафедры микро-

электронных схем и систем Российско-Армянского

(Славянского) университета

Манукян Т.Ш. соискатель кафедры телекоммуникаций по спе-

циальности «Радиотехника, радиочастотные ус-

тройства, с

истемы, технологии» Российско-Ар-

мянского (Славянского) университета

Мелконян С.Э. студент первого курса магистратуры по направле-

нию подготовки «Инфокоммуникационные техно-

логии и системы связи» (Магистерская программа

Беспроводные коммуникации и сенсоры) Российс-

ко-Армянского (Славянского) университета

Петросян Т.К. аспирант третьего года обучения по специальности

«Методы и системы защиты информации, инфор-

мационная безопасност

ь» Российско-Армянского

(Славянского) университета

Саакян В.А. аспирант Института радиофизики и электроники

НАН РА, штатный инженер по физическому проек-

тированию специализированных интегральных

схем ЗАО «Синопсис Армения»

Сиволенко Э.Р. к.т.н., и.о. заведующего кафедрой телекоммуника-

ций Российско-Армянского (Славянского) универ-

ситета

Степанян Г.Г. аспирант первого года обучения по специальности

«Радиотехника, радиочастотные устройства, си

сте-

мы, технологии» Российско-Армянского (Славянс-

кого) университета

Сугян Г.З. преподаватель и соискатель кафедры телекоммуни-

каций по специальности «Радиотехника, радиочас-

тотные устройства, системы, технологии» Российс-

ко-Армянского (Славянского) университета

Эйрамджян С.Г. к.т.н., старший преподаватель кафедры телекомму-

никаций Российско-Армянского (Славянского)

университета

Главный редактор РНИ – М.Э. Авакян

Корректор – А.С. Есаян

Компьютерная верстка

–

.Г.

нтонян

Адрес Редакции научных изданий

Российско-Армянского университета:

0051, г. Ереван, ул. Овсепа Эмина, 123

тел.∕факс: (+374 12) 77-57-75 (внутр. 8130)

е-mail maria.avakian@rau.am

Заказ № 42

Подписано к печати 20.11.2025г.

Формат 70х100

. Бумага офсетная № 1.

Объем 6 усл. п.л. Тираж 100 экз.

Editor-in-Chief of

the RNI – M.E. Avakyan

Proofreader – A.S. Yesayan

Computer layout – A.G. Antonyan

Address of the Editorial Board of Scientific

ublications of the Russian-Armenian University:

0051, Yerevan, st. Hovsep Emin, 123

tel./fax: (+374 12) 77-57-75 (ext. 8130)

e-mail: maria.avakian@rau.am

Order No. 42

Signed for publication on 20.11.2025

Format 70x100

. Offset paper No. 1.

Volume 6 conv. p.l. Circulation 100 copies