Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Кислотность океана разрушает зубы акул 03.10.2025

Мировые океаны выполняют важнейшую функцию - они поглощают около трети углекислого газа, выбрасываемого в атмосферу. Это помогает замедлять темпы глобального потепления, но имеет и обратную сторону. Растворяясь в воде, CO2 образует угольную кислоту, которая повышает концентрацию водородных ионов и приводит к снижению pH. Вода становится более кислой, а последствия этого процесса уже заметны для морских экосистем. Средний показатель кислотности океана сейчас равен примерно 8,1, тогда как еще недавно за условную норму брали значение 8,2. По прогнозам, к 2300 году уровень может упасть до 7,3 - это сделает океан почти в десять раз кислее нынешнего состояния. Для обитателей морей подобные изменения означают не просто сдвиг химического равновесия, а реальную угрозу физиологическим процессам, начиная от формирования раковин у моллюсков и заканчивая охотничьим поведением акул. Чтобы выяснить, как именно кислотная среда отражается на зубах акул, группа немецких исследователей провела эксп ...>>

Почтовый космический корабль Arc 03.10.2025

Космические технологии становятся частью инфраструктуры, способной повлиять на логистику, медицину и даже военную сферу. Идея использовать орбиту как глобальный склад для срочных поставок звучала еще недавно как научная фантастика, но стартап Inversion пытается превратить ее в практическое решение. Компания Inversion появилась в начале 2021 года благодаря Джастину Фиаскетти и Остину Бриггсу, которые на тот момент были студентами Бостонского университета. Их замысел состоял в том, чтобы сделать возможной доставку грузов не только через спутниковые сети данных, но и в буквальном смысле - физических предметов. В основе лежит простая мысль: если космос обеспечивает доступ к любой точке Земли, то и грузы должны перемещаться тем же маршрутом. Уже за три года работы команда из 25 специалистов успела построить демонстрационный аппарат "Ray". Его запуск состоялся в рамках миссии SpaceX Transporter-12. Устройство весом 90 килограммов проверяло ключевые технологии Inversion, включая двухком ...>>

Лазерное обогащение урана 02.10.2025

Ядерная энергия остается одним из ключевых источников стабильного электричества, особенно для стран с растущими потребностями в энергоснабжении. Однако обеспечение бесперебойных поставок топлива для атомных станций требует современных технологий обогащения урана, которые одновременно эффективны и безопасны. Американская компания Global Laser Enrichment (GLE) делает значительный шаг в этом направлении, завершив масштабное тестирование лазерной технологии обогащения урана. Демонстрационная программа была проведена на объекте в Уилмингтоне, Северная Каролина. Тестирование технологии SILEX (Separation of Isotopes by Laser EXcitation), разработанной австралийской Silex Systems, стартовало в мае 2025 года и продлится до конца года. В ходе экспериментов компания планирует получить сотни фунтов низкообогащенного урана (LEU), который может быть использован в качестве топлива для атомных электростанций. GLE была создана в 2007 году для коммерциализации лазерных методов обогащения урана в С ...>>

Безлинзовая ИК-система 02.10.2025

Инфракрасные технологии занимают особое место в науке и технике. Они позволяют заглянуть туда, где человеческий глаз бессилен, - в темноту, сквозь дымку или туман, на значительные расстояния. Однако развитие этой области сдерживают дорогие и капризные камеры, требующие охлаждения и сложного обслуживания. Китайские исследователи предложили неожиданный выход: создание безлинзовой системы, которая превращает невидимое инфракрасное излучение в четкие изображения с помощью оптики нового поколения. В основе этой разработки лежит древняя идея "изображения через отверстие", о которой еще в IV веке до нашей эры писал философ Мо-цзы. Современные ученые пошли дальше и вместо физической дырочки сформировали оптическое отверстие прямо в нелинейном кристалле, используя сверхкороткие лазерные импульсы. Такое решение позволяет преобразовывать инфракрасное излучение в видимый свет, который без труда фиксируется обычными кремниевыми сенсорами. Руководитель проекта профессор Хэпинг Цзэн подчеркивае ...>>

Жара вызывает агрессию 01.10.2025

Животный мир чутко реагирует на изменения температуры, и в последние годы ученые все чаще обращают внимание на то, как жара влияет не только на физиологию, но и на поведение живых существ. Рост глобальных температур способен не только изменять экосистемы, но и формировать новые социальные модели у животных. Одним из тревожных проявлений оказывается рост агрессивности, который наблюдается у самых разных видов. В лаборатории Университета Юга в Сьюани, штат Теннеси, экологи наблюдали за чернобрюхими саламандрами Desmognathus amphileucus. Эти небольшие амфибии, обитающие в ручьях Аппалачей, продемонстрировали ярко выраженное территориальное поведение: они пытались кусать соперников и заставлять их покидать занятую территорию. Интересно, что у близкородственных видов - саламандры Окои и тритона - подобных реакций не зафиксировали. Это подчеркивает избирательность явления и его связь с особенностями конкретных организмов. Сходные результаты были получены и в экспериментах с другими вид ...>>

Случайная новость из Архива Кофе без кофейных зерен 02.01.2020 Американский стартап, изучив химический состав кофейных зерен, создал первую в мире кофе, для приготовления которой они не нужны. Изучив химический состав различных видов кофе, ученые смогли воссоздать его ключевые элементы, а именно запах, цвет, консистенцию и оставили кофеин. Они решили только забрать горечь, поскольку подавляющее большинство кофеманов перебивают ее сахаром или сливками. Кофе без кофейных зерен не наносит вреда экологии, как это делает традиционное кофе. Спрос на него увеличивается из года в год, а это значит, что посевы зерен расширяются и вредят окружающей среде. В продаже новый вид кофе появится уже в 2020 году в Сиэтле.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2025