Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Токсичность интернета преувеличена 07.01.2026

Социальные сети нередко воспринимаются как арена постоянной агрессии, оскорблений и распространения фейковой информации. Новое исследование Стэнфордского университета показывает, что реальность значительно отличается от популярного представления: интернет гораздо менее токсичен, чем многие пользователи считают. Ученые опросили более тысячи американцев, попросив их оценить долю пользователей соцсетей, которые ведут себя агрессивно или распространяют ненависть. Оказалось, что впечатления людей сильно преувеличивают масштабы проблемы. Например, респонденты считали, что почти половина пользователей Reddit хотя бы раз оставляла оскорбительные комментарии, тогда как фактические данные платформы показывают, что таких людей не более 3%. Аналогичная ситуация наблюдается с дезинформацией. Опрос показал, что большинство участников считали почти половину аудитории Facebook распространителями фейковых новостей, однако статистика говорит об обратном: фактическая доля таких пользователей состав ...>>

Процессоры Ryzen AI 400 07.01.2026

Современные вычисления все больше ориентируются на интеграцию искусственного интеллекта и высокую производительность в компактных устройствах, таких как ноутбуки и мини-ПК. Новая линейка процессоров AMD Ryzen AI 400 демонстрирует, как разработчики объединяют мощные центральные ядра, графику и нейросетевые ускорители в одном чипе, чтобы удовлетворять растущие потребности пользователей в играх, контенте и ИИ-приложениях. AMD представила процессоры серии Gorgon Point, которые включают до 12 ядер Zen 5 и до 24 потоков вычислений. Чипы поддерживают интегрированную графику RDNA 3.5, обеспечивают максимальную тактовую частоту до 5,2 ГГц и имеют энергопотребление от 15 Вт до 54 Вт. Особое внимание уделено NPU, способному обрабатывать до 60 триллионов операций в секунду (TOPS), что делает эти процессоры эффективными для задач с искусственным интеллектом. Конструкция Ryzen AI 400 сочетает ядра Zen 5 и Zen 5c, обеспечивая высокую гибкость и производительность. Несмотря на то, что архитектур ...>>

Женщины лучше распознают признаки болезни по лицу 06.01.2026

Способность распознавать, что кто-то нездоров, часто проявляется интуитивно: бледная кожа, опущенные веки, уставшее выражение лица могут сигнализировать о недомогании. Новое исследование международной группы ученых показало, что женщины в среднем точнее мужчин улавливают такие тонкие невербальные признаки болезни, что может иметь эволюционные и социальные объяснения. В отличие от предыдущих работ, где использовались отредактированные фотографии или имитация больных лиц, ученые решили проверить, насколько люди способны распознавать естественные признаки недомогания. Такой подход позволил оценить реальную чувствительность к изменениям в лицах, возникающим при болезни. В исследовании приняли участие 280 студентов, поровну мужчин и женщин. Участникам предложили оценить 24 фотографии, на которых изображены люди как в здоровом состоянии, так и во время болезни. Это дало возможность сравнить восприятие естественных признаков недомогания в реальных лицах. Для анализа состояния каждого ...>>

Робот LG CLOiD 06.01.2026

LG представила своего нового работа CLOiD. Его возможности выходят за рамки простого выполнения команд - он способен адаптироваться к образу жизни владельца и управлять подключенными бытовыми приборами. LG CLOiD объединяет два ключевых направления корейской компании: платформу роботизированной помощи LG Q9 и экосистему умного дома LG ThinQ. На демонстрации робот показал, что умеет готовить завтрак: доставать молоко из холодильника, помещать круассан в духовку и выполнять другие кулинарные задачи. Кроме того, CLOiD может самостоятельно запускать стирку, после сушки складывать одежду и раскладывать ее по шкафу. Таким образом, робот подстраивается под повседневные привычки хозяев и может управлять всеми совместимыми устройствами, подключенными к сети. Конструкция LG CLOiD специально адаптирована для работы в жилых помещениях. Основной блок робота соединен с телом, оснащенным двумя шарнирными руками-манипуляторами, а базируется он на колесной платформе с функцией автономной навигации ...>>

Твердотельные батареи без потерь от замерзания ионов 05.01.2026

Энергетика и электроника сегодня все больше зависят от надежных и безопасных источников энергии. Твердотельные батареи рассматриваются как ключ к следующему этапу развития портативных и стационарных устройств, однако традиционные подходы сталкиваются с фундаментальной проблемой: при затвердевании электролита движение ионов замедляется или полностью останавливается. Новое исследование ученых из Оксфордского университета и их партнеров может изменить это представление и открыть путь к созданию безопасных и эффективных твердых аккумуляторов. В своей работе исследователи разработали новый класс органических электролитов, которые сохраняют высокую ионную проводимость независимо от состояния - жидкого, жидкокристаллического или твердого. Такие материалы получили название "электролиты, независимые от состояния" (state-independent electrolytes, SIE). Аспирантка Джульетт Барклай, первый автор исследования, отмечает, что это доказывает возможность проектировать органические молекулы так, чтоб ...>>

Случайная новость из Архива Робот обманывает робота 18.12.2012 Ученые из Технологического института Джорджии разработали роботов, которые способны обманывать друг друга. Идею разработки они почерпнули в модели поведения обычных белок и птиц. Практическое приложение исследование найдет в будущих военных разработках. Работа публикуется в IEEE Intelligent Systems. Команда ученых под руководством профессора Рональда Аркина начали с биологического исследования - они изучили, как ведут себя белки, собирающие желуди и прячущие их в своих тайниках. Когда другая белка может подсмотреть тайник, животное меняет свое поведение. Вместо того, чтобы обращаться к местам, где действительно могут храниться ее запасы, она посещает ложные тайники, мешая тем самым найти настоящие. Именно эту модель ученые перенесли на роботов. Если враг присутствует где-то рядом, робот может изменить свою стратегию патрулирования, чтобы обмануть другого робота или даже людей. Таким образом, можно выиграть время до прихода подкрепления. Помимо этого, Аркин исследовали поведение птиц, которые "блефуют" перед лицом опасности - притворяются сильнее, чем они есть и даже нападают на противника. Не только эмпирические данные, но и математическая модель доказывает: такой обман является эффективной стратегией, польза от него перевешивает риск быть пойманным. И в военной операции, робот, который сам находится под угрозой, может не менее эффективно симулировать способность бороться с противником. Даже если он не в состоянии фактически защитить себя, его действия могут повлиять на интеллектуальную технику врага - заставить ее решить, что риск неоправданно высок. "Обман, если он используется в нужный момент, может минимизировать угрозу",- говорит Аркин. Профессор Аркин также отмечает, что расширение технологии за пределы военной области, где порой "все средства хороши", может повлечь за собой много этических вопросов. Он настоятельно рекомендует тщательно взвесить то, насколько морально приемлемы результаты исследований, которые научили роботов обманывать.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026