Localization and generative control of concept-specific neurons in deep neural networks

Скорочена інформація про документ
dc.contributor.authorVerbytskyi O. S.
dc.contributor.authorGaidaienko O. V.
dc.date.accessioned2026-06-09T10:30:24Z
dc.date.issued2025-09-25
dc.descriptionVerbytskyi, O. S. Localization and generative control of concept-specific neurons in deep neural networks / O. S. Verbytskyi, O. V. Gaidaienko // Матеріали ХVІ міжнар. науково-технічна конф. "Інновації в суднобудуванні та океанотехніці". – Миколаїв : НУК. – 2025. – С. 624–627.
dc.description.abstractГлибокі нейронні мережі (ГНМ) залишаються «чорними скриньками» через відсутність інтерпретованих механізмів для представлення концептів. Це дослідження пропонує метод локалізації мінімальних наборів нейронів, специфічних для концептів (наприклад, «кішка»), за допомогою евристики L0-оптимізації та маскування активації, що дозволяє генеративний контроль та аналіз парейдолії. Експерименти на VGG16 (ImageNet) підтверджують ефективність цього підходу: абляція ідентифікованих нейронів знижує точність класів на >75%, тоді як їх активація на зашумлених зображеннях виявляє ілюзорне розпізнавання образів, подібне до людського.
dc.description.abstract1Deep neural networks (DNNs) remain "black boxes" due to the lack of interpretable mechanisms for concept representation. This study proposes a method to localize minimal sets of concept-specific neurons (e.g., "cat") using L0-optimization heuristics and activation masking, enabling generative control and pareidolia analysis. Experiments on VGG16 (ImageNet) confirm the approach’s efficacy: ablation of identified neurons reduces class accuracy by >75%, while their activation on noisy images reveals human-like illusory pattern recognition
dc.description.provenanceSubmitted by Оксана Гайдаєнко (oksana.gaidaienko@nuos.edu.ua) on 2026-06-08T08:36:09Z workflow start=Step: reviewstep - action:claimaction No. of bitstreams: 1 Вербицкий О_2.pdf: 613338 bytes, checksum: ecff83d295e9ce45505a80c8b6296716 (MD5)en
dc.description.provenanceStep: reviewstep - action:reviewaction Approved for entry into archive by Бондар Ольга (olga.bondar@nuos.edu.ua) on 2026-06-09T10:26:18Z (GMT)en
dc.description.provenanceStep: editstep - action:editaction Approved for entry into archive by Бондар Ольга (olga.bondar@nuos.edu.ua) on 2026-06-09T10:29:52Z (GMT)en
dc.description.provenanceStep: finaleditstep - action:finaleditaction Approved for entry into archive by Бондар Ольга (olga.bondar@nuos.edu.ua) on 2026-06-09T10:30:24Z (GMT)en
dc.description.provenanceMade available in DSpace on 2026-06-09T10:30:24Z (GMT). No. of bitstreams: 1 Verbytskyi.pdf: 613338 bytes, checksum: ecff83d295e9ce45505a80c8b6296716 (MD5) Previous issue date: 2025-09-25en
dc.identifier.isbn978-966-321-487-0
dc.identifier.urihttps://eir.nuos.edu.ua/handle/123456789/13024
dc.language.isoen
dc.relation.ispartofseriesУДК ; 004.032.26:004.89
dc.subjectexplainable ai
dc.subjectconcept neurons
dc.subjectactivation masking
dc.subjectneuron ablation
dc.subjectpareidolia.
dc.titleLocalization and generative control of concept-specific neurons in deep neural networks
dc.typeTheses

Файли

Контейнер файлів

Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
Verbytskyi.pdf
Розмір:
598.96 KB
Формат:
Adobe Portable Document Format
Завантажити

Ліцензійна угода

Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
license.txt
Розмір:
4.38 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Завантажити

Зібрання

Матеріали конференцій (ІУСтаТ)