Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Хорошо управляемые луга могут компенсировать выбросы от скота 15.02.2026

Животноводство, особенно разведение крупного рогатого скота, часто обвиняют в значительном вкладе в глобальное потепление из-за мощного парникового газа - метана, который выделяется при пищеварении у жвачных животных. Это вызывает острые политические споры и призывы к сокращению потребления мяса. Однако ученые напоминают, что полная картина климатического воздействия отрасли не ограничивается только выбросами от животных: огромную роль играет окружающая экосистема - пастбища, почва и растительность, которые способны активно поглощать углекислый газ из атмосферы. Исследователи из Университета Небраски-Линкольна решили глубже изучить этот баланс. Группа под руководством профессора Галена Эриксона сосредоточилась на том, как правильно организованные пастбища накапливают углерод в растениях и грунте благодаря естественным процессам, стимулируемым выпасом скота. Ученые подчеркивают, что при достаточном уровне осадков и грамотном управлении такие луга превращаются в мощные природные погло ...>>

NASA тестирует инновационную технологию крыла 15.02.2026

Коммерческая авиация ежегодно расходует колоссальные объемы керосина, что сказывается не только на бюджете авиакомпаний, но и на состоянии окружающей среды. В 2024 году глобальные затраты на авиационное топливо достигли 291 миллиарда долларов, и эта сумма продолжает расти. Чтобы справиться с этими вызовами, NASA активно работает над технологиями, способными заметно повысить аэродинамическую эффективность самолетов. Одним из самых перспективных направлений стало создание специальной конструкции крыла, которая максимизирует естественный ламинарный поток воздуха и минимизирует сопротивление. В январе 2026 года специалисты NASA Armstrong Flight Research Center успешно провели важный этап наземных испытаний концепции Crossflow Attenuated Natural Laminar Flow (CATNLF). Для эксперимента под фюзеляж исследовательского самолета F-15B закрепили вертикально ориентированную масштабную модель высотой около 0,9 м (3 фута), напоминающую узкий киль. Такая компоновка позволила подвергнуть прототип р ...>>

Забота о внуках очень полезна для здоровья мозга 14.02.2026

Общение между поколениями приносит радость всей семье, но мало кто задумывается, насколько активно бабушки и дедушки, заботящиеся о внуках, поддерживают свою умственную форму. Регулярное взаимодействие с детьми стимулирует мозг пожилых людей, помогая сохранять память, скорость мышления и общую когнитивную активность. Новые научные данные подтверждают, что такая добровольная помощь не только важна для общества, но и может замедлять возрастные изменения в мозге. Исследователи из Тилбургского университета в Нидерландах провели анализ, чтобы понять, приносит ли уход за внуками реальную пользу здоровью пожилых людей. Ведущий автор работы Флавия Черечес отметила, что многие бабушки и дедушки регулярно присматривают за детьми, и оставался открытым вопрос, насколько это положительно сказывается на их собственном благополучии, особенно в плане когнитивных функций. Ученые поставили цель выяснить, способен ли регулярный уход за внуками замедлить снижение памяти и других умственных способ ...>>

Оптические системы сортировки и AI для черники и фруктов 14.02.2026

Каждый год потребители ожидают увидеть на прилавках свежие, ровные по размеру и цвету ягоды черники без признаков порчи или обезвоживания, при этом производители стремятся минимизировать потери и сохранить естественную привлекательность продукта. В эпоху растущих требований к качеству и дефицита квалифицированной рабочей силы традиционные методы сортировки фруктов уже не всегда справляются с задачей. Именно поэтому компании активно внедряют оптические сканеры в сочетании с искусственным интеллектом, способные анализировать ягоды с невероятной точностью и скоростью, сохраняя при этом их товарный вид. На выставке Fruit Logistica 2026 в Берлине компания Tomra Food презентовала свои последние достижения в области постуборочной обработки. Центральное место на стенде занимает совершенно новая оптическая сортировочная система, специально разработанная для свежей черники и предназначенная для использования непосредственно в упаковочных цехах. Эта машина охватывает весь путь ягод - от загруз ...>>

Монитор ROG Swift OLED PG32UCDM Gen 3 13.02.2026

Для многих поклонников компьютерных игр выбор монитора - это всегда поиск идеального баланса между потрясающей картинкой, молниеносной скоростью отклика и надежностью в длительных игровых сессиях. Технология QD-OLED уже несколько лет задает высокую планку качества изображения, предлагая глубокий черный цвет, яркие краски и практически мгновенную реакцию пикселей. Однако даже у самых продвинутых панелей оставались слабые места: уязвимость к царапинам, цветовые искажения под определенными углами и заметное отражение в освещенных помещениях. Компания ASUS решила серьезно улучшить ситуацию и представила третье поколение своего популярного 32-дюймового флагмана - ROG Swift OLED PG32UCDM Gen 3. В основе новинки лежит современная 32-дюймовая QD-OLED панель с разрешением 4K (3840 x 2160 пикселей), которая обеспечивает невероятную детализацию и точность цветопередачи. Частота обновления достигает 240 Гц, что делает картинку исключительно плавной даже в самых динамичных сценах шутеров или ...>>

Случайная новость из Архива Перенос данных с компьютера в геном живых бактерий 22.01.2021 Ученые из Колумбийского университета научились переносить данные с компьютера в геном живых бактерий. В ходе исследования специалистам удалось реализовать условия, в которых возможно записать 72 бита данных прямо в ДНК. В итоге ученые записали закодированную фразу "Hello world!" в плазмиды живых бактерий E. coli. Более того, записанную фразу удалось прочесть после секвенирования ДНК живых бактерий. Традиционные записи данных в ДНК основаны на кодировании единиц и нулей файла данных в виде комбинации четырех азотистых оснований: аденина, гуанина, цитозина и тимина. В то же время, для чтения, в данном случае, необходим процесс секвенирования закодированных последовательностей. Стоимость описанного процесса может составлять 3500 долларов за Мбит. Причем, это не самый надежный метод записи информации в ДНК. Благодаря кодированию с компьютера в ДНК живых бактерий специалисты не прибегали к искусственному синтезу ДНК, благодаря чему удалось сэкономить деньги как минимум на этом этапе.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026