Стартап в сфере ИИ из США опубликовал исследования о принципах работы нейросетей

Финансируемая Amazon компания по изучению искусственного интеллекта опубликовала исследование, призванное объяснить принципы работы нейросетей, передает NUR.KZ со ссылкой на Quartz.

Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).

Высокоэффективные большие языковые модели искусственного интеллекта способны совершать действия, которые до сих пор необъяснимы для многих людей. Поэтому ИИ часто называют "черным ящиком", феноменом, который сложно объяснить без специальных знаний в технологической отрасли.

Недавно опубликованное исследование Anthropic, одной из ведущих компаний в индустрии искусственного интеллекта, пытается пролить свет на наиболее запутанные аспекты алгоритмического поведения ИИ.

Специалисты Anthropic проанализировали, почему чат-бот компании Claude предпочитает генерировать контент на определенные темы, а другие игнорирует.

Исследователи Anthropic объясняют, что они использовали процесс, известный как "изучение словаря", чтобы расшифровать, какие части нейронной сети чат-бота соответствуют конкретным понятиям.

Например, в ответ на запрос, касающийся моста "Золотые ворота", у чат-бота начали срабатывать нейронные сети, связанные с массивом данных о Сан-Франциско, округе Марин и фильмом Хичкока "Головокружение", действие которого также происходит в Сан-Франциско. Нейросеть обращала внимание на самые запрашиваемые данные и игнорировала самые непопулярные.

При этом журналисты отмечают, что у Anthropic могут быть определенные деловые мотивы для проведения данного исследования.