Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Расставание действительно может причинять физическую боль 16.09.2026

Разрыв отношений с близким человеком способно вызывать настолько сильные переживания, что привычное выражение "разбитое сердце" иногда воспринимается почти буквально. Человек может испытывать тревогу, тоску и эмоциональное напряжение, сопровождающиеся вполне реальными телесными ощущениями. Исследования работы мозга показывают, что такая связь между эмоциональными и физическими страданиями может иметь вполне определенную нейробиологическую основу. Эксперимент, позволивший изучить этот вопрос, провела команда психолога Итана Кросса из Мичиганского университета. В исследовании участвовали 40 человек, недавно переживших расставание по инициативе партнера. Все добровольцы продолжали остро реагировать на произошедшее, что позволило исследователям изучить мозговую активность в период наиболее сильных переживаний. Во время эксперимента участников помещали в аппарат магнитно-резонансной томографии. Испытуемым поочередно показывали фотографию бывшего партнера и подвергали предплечье воздей ...>>

Научно доказана невозможность создания нейтринного лазера 16.09.2026

Лазер давно перестал быть исключительно лабораторной технологией: сегодня он используется в связи, медицине, промышленности и научных исследованиях. Поэтому физики периодически предлагают необычные варианты устройств, способных работать по аналогичным принципам, но с другими типами частиц. В 2025 году появилась идея создать лазер, формирующий направленный поток нейтрино. Однако последующий теоретический анализ показал, что привлекательная на первый взгляд концепция сталкивается не просто с техническими трудностями, а с фундаментальными законами квантовой физики. Первоначальную концепцию предложили профессор Массачусетского технологического института (MIT) Джо Формаджио (Joe Formaggio) и Бен Джонс (Ben Jones) из Техасского университета в Арлингтоне. Согласно их замыслу, облако радиоактивных атомов следовало охладить до сверхнизких температур порядка нанокельвинов - миллиардных долей кельвина. В таких условиях атомы могли бы сформировать Бозе - Эйнштейновский конденсат, особое квантов ...>>

Индекс нижнего белья раскрыл состояние швейцарских почв 15.09.2026

Почва кажется обычной частью окружающего нас ландшафта, однако под ее поверхностью существует сложная экосистема, от состояния которой напрямую зависит жизнь человека. Миллиарды микроорганизмов, черви, грибы и другие обитатели почвы перерабатывают органические вещества и участвуют в круговороте питательных элементов. Чтобы привлечь внимание общества к этой мало заметной проблеме, исследователи из Цюрихского университета придумали весьма необычный эксперимент: они закопали более 2000 пар хлопкового нижнего белья в садах, на лугах, полях и газонах по всей Швейцарии. Проект получил название "Доказательство в виде нижнего белья" и представлял собой не массовую шутку, а научный эксперимент, позволяющий наглядно оценить биологическую активность почвы. Исследователи помещали хлопковые изделия в землю, а примерно через два месяца извлекали их и сравнивали степень разрушения ткани. Некоторые образцы за это время практически исчезали, оставляя лишь отдельные фрагменты швов, тогда как на други ...>>

Гибкий алмаз вырабатывает электричество 15.09.2026

Алмаз традиционно воспринимается как исключительно твердый и практически неподвижный материал, поэтому возможность получать из него электричество при механической деформации долгое время казалась невероятной. В начале XX века алмаз относили к непьезоэлектрическим материалам, то есть считалось, что при сжатии или изгибе он, в отличие от кварца, не способен создавать электрический заряд. Однако исследователи из Университета Гонконга обнаружили, что при определенных условиях это представление требует пересмотра. Проблема заключалась прежде всего в физической природе самого минерала. Обычный алмаз настолько тверд, что заметно согнуть его практически невозможно. Поэтому специалисты использовали другой подход и изготовили из алмаза чрезвычайно тонкую гибкую мембрану. После механического воздействия на такую конструкцию измерительные приборы зарегистрировали устойчивые электрические сигналы. Эксперименты неоднократно повторяли и проводили в различных условиях, чтобы исключить случайное про ...>>

Найдена химическая причина возрастных изменений запаха кожи 14.09.2026

Запах человеческого тела меняется на протяжении всей жизни, и особенно заметные изменения могут происходить в пожилом возрасте. Речь идет не только о привычном запахе пота или особенностях гигиены: старение сопровождается целым комплексом биохимических процессов в коже, способных влиять на ее естественный запах. Ученые обнаружили одно из веществ, которое связывают с характерным ароматом, часто называемым "запахом старости". Исследователи установили, что важную роль в этом процессе играет 2-ноненаль - органическое соединение из группы ненасыщенных жирных альдегидов. Это вещество обладает характерным запахом, который нередко описывают как сочетание прогорклого масла и затхлого картона. Его количество в коже увеличивается по мере старения организма, поэтому концентрация 2-ноненаля рассматривается специалистами как одна из биохимических причин возрастного изменения запаха. По словам дерматологов, заметные изменения начинают становиться более вероятными после 40 лет. Доктор Сонал Чоуд ...>>

Случайная новость из Архива API от Logitech объединит все устройства в умном доме 26.01.2015 Компания Logitech анонсировала для разработчиков интерфейс создания приложений Harmony API, который призван объединить домашние развлекательные системы с другими бытовыми смарт-устройствами и управлять ими через единый контроллер. Например, когда пользователь входит в комнату и включает телевизор, смарт-лампочки Philips Hue автоматически выстраивают световую композицию, оптимальную для кинопросмотра. И количество таких сценариев теперь ограничено лишь фантазией. Попытки объединить все устройства в единую управляемую сеть ведутся и другими разработчиками, но отличие подхода Logitech в том, что она не просто создает очередной универсальный контроллер, а предлагает мощный API, вовлекая в процесс построения единой экосистемы всех желающих отраслевых игроков. Учитывая связи компании и популярность ее продуктов Harmony, Logitech вполне может рассчитывать на успех. На сегодняшний день она уже получила поддержку от таких влиятельных игроков отрасли как SmartThings, IFTTT, ivee, Ubi, Myo, Playtabase. По утверждению компании, это первый API, который дает разработчикам доступ к более 270 тыс. разнообразных устройств. Им больше не придется сталкиваться с проблемами несовместимости протоколов и синхронизации. Все решается через единый интерфейс. Harmony API поддерживает голосовое, сенсорное управление, жесты, датчики присутствия и многое другое.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026