Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Впервые преоодолена передача ВИЧ от матери к ребенку 02.01.2026

Проблема вертикальной передачи ВИЧ - от матери к ребенку - остается одной из ключевых задач глобальной медицины. Недавний отчет Всемирной организации здравоохранения (ВОЗ) демонстрирует историческое достижение: Бразилия впервые в своей истории полностью преодолела этот путь передачи вируса. Страна стала 19-й в мире и первой с населением более 100 миллионов человек, которая достигла такого результата. Достижения Бразилии основаны на комплексных медицинских программах, обеспечивающих своевременный доступ к диагностике и терапии для всех слоев населения. ВОЗ официально подтвердило, что уровень передачи ВИЧ от матери к ребенку снизился до менее двух процентов. Более 95% беременных женщин в стране получают регулярный скрининг на ВИЧ и необходимое лечение в рамках стандартного ведения беременности. Изначально программа тестировалась в крупных муниципалитетах и штатах с населением более 100 тысяч человек, а затем была масштабирована на всю страну. Такой подход позволил унифицировать ста ...>>

Нанослой германия увеличивает эффективность солнечных батарей на треть 02.01.2026

Разработка высокоэффективных солнечных батарей остается одной из ключевых задач современной энергетики. Недавнее исследование южнокорейских ученых позволило повысить производительность тонкопленочных солнечных элементов почти на 30%, что открывает новые перспективы для возобновляемых источников энергии, гибкой электроники и сенсорных устройств. Команда исследователей сосредоточилась на элементах на основе моносульфида олова (SnS) - нетоксичного и доступного материала, который идеально подходит для гибких солнечных панелей. До настоящего времени эффективность SnS-устройств оставалась низкой из-за проблем на границе контакта с металлическим электродом. В этой области возникали структурные дефекты, диффузия элементов и электрические потери, что существенно ограничивало возможности таких батарей. "Этот интерфейс был главным барьером для достижения высокой производительности", - отмечает профессор Джейонг Хо из Национального университета Чоннам. Для решения этих проблем ученые предлож ...>>

Электростатическое решение для борьбы с льдом и инеем 01.01.2026

Борьба с льдом и инеем на транспортных средствах и критически важных поверхностях зимой остается сложной и затратной задачей. Ученые из Virginia Tech разработали инновационную технологию, способную разрушать лед и иней без использования тепла или химических реагентов, что открывает новые возможности для безопасной и экологичной зимней эксплуатации транспорта. Исследователи обнаружили, что лед и иней образуют кристаллическую решетку с так называемыми ионными дефектами - заряженными участками, способными перемещаться под воздействием электрического поля. Эти дефекты являются ключом к управлению прочностью льда и его удалением с поверхностей. Когда на замерзшую поверхность подается положительный электрический заряд, отрицательные ионные дефекты притягиваются к источнику поля. Это вызывает разрушение кристаллической решетки льда, в результате чего часть льда буквально "отскакивает" от поверхности. Такой эффект позволяет удалять лед без применения внешнего тепла или химических средств ...>>

Древний лед Антарктики 01.01.2026

Изучение древних ледниковых слоев - один из самых надежных способов понять, как формировался климат Земли и как он может изменяться в будущем. Недавнее открытие международной группы исследователей в Антарктике дает уникальную возможность заглянуть на миллионы лет назад и получить ценную информацию о атмосфере нашей планеты. В районе Аллан-Хиллс ученые пробурили керны древнего льда и обнаружили слои, возраст которых оценивается примерно в 6 миллионов лет. Это старейший лед, когда-либо найденный на Земле и датированный напрямую, что делает находку беспрецедентной в истории климатологии. Особое значение имеют крошечные пузырьки воздуха, запечатленные в ледяных кристаллах. Они служат настоящими "капсулами времени", сохраняя состав атмосферы прошлого. Анализ этих пузырьков позволяет восстановить климатические условия древней Земли, когда средние температуры были выше современных, а уровень океанов значительно выше нынешнего. Древние ледяные керны можно рассматривать как подробные х ...>>

Нано-уровень управления светом 31.12.2025

Современная нанофотоника стремится превратить свет в инструмент точного управления на микроскопическом уровне. Недавние исследования международной команды ученых открывают новые возможности в этой области, позволяя манипулировать светоматериальными волнами на наноуровне с беспрецедентной точностью. Такие достижения могут стать ключом к созданию сверхбыстрых коммуникационных систем и высокочувствительных сенсоров. В центре внимания исследователей оказались гиперболические фонон-поляритоны - особый тип волн, возникающих при взаимодействии света с колебаниями вещества. Эти волны способны концентрировать свет в пространственных масштабах, значительно меньших длины его волны, что позволяет создавать устройства с высокой плотностью интеграции и повышенной функциональностью. Работа велась совместно учеными из Шанхайского транспортного университета, Национального центра нанонауки и технологий Китая, а также коллегами из Испании. Они предложили двухэтапную схему возбуждения волн: сначала ...>>

Случайная новость из Архива Новые возможности WiFi-модуля SPWF01SA.11 30.12.2014 Компания STMicroelectronics выпустила новую версию встроенного программного обеспечения (firmware) для WiFi-радиомодулей SPWF01SC.11 и SPWF01SA.11. В обновленном firmware v3.3 введены новые возможности по управлению процессом передачи данных, устранены имеющиеся ошибки и повышена общая долговременная устойчивость работы модуля. Основные нововведения (относительно версии 3.0): - автоматическое закрытие соединения и переход в командный режим при потери сети; - управляемая задержка между получением последнего символа по UART и отправкой буфера; - информационное сообщение о потери части принимаемых данных вследствие переполнения буфера; - в режиме Socket Client возможно вычитать ожидающие данные даже в случае закрытия сокета сервером; - новый низкоуровневый драйвер WiFi-радио с повышенной стабильностью работы; - поддержка режима IBSS; - регулировка выходной мощности; - возможность установки статического IP-адреса в режиме mini-AP при выключенных DHCP/DNS; - расширены возможности по управлению портами ввода-вывода (GPIO); - добавлена поддержка UDP Socket Server; - внутреннее Firmware построено на базе FreeRTOS v8.0.1. Обновление внутреннего программного обеспечения производится через основной интерфейс управления модулем (UART) c помощью Windows-программы. Новая прошивка (SPWF01S-141106-0950875-RELEASE-main.bin) и необходимый инструментарий для ее загрузки предоставляются по запросу.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026