Стартап в сфере ИИ из США опубликовал исследования о принципах работы нейросетей
Опубликовано:
Финансируемая Amazon компания по изучению искусственного интеллекта опубликовала исследование, призванное объяснить принципы работы нейросетей, передает NUR.KZ со ссылкой на Quartz.
Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).
Высокоэффективные большие языковые модели искусственного интеллекта способны совершать действия, которые до сих пор необъяснимы для многих людей. Поэтому ИИ часто называют "черным ящиком", феноменом, который сложно объяснить без специальных знаний в технологической отрасли.
Недавно опубликованное исследование Anthropic, одной из ведущих компаний в индустрии искусственного интеллекта, пытается пролить свет на наиболее запутанные аспекты алгоритмического поведения ИИ.
Специалисты Anthropic проанализировали, почему чат-бот компании Claude предпочитает генерировать контент на определенные темы, а другие игнорирует.
Исследователи Anthropic объясняют, что они использовали процесс, известный как "изучение словаря", чтобы расшифровать, какие части нейронной сети чат-бота соответствуют конкретным понятиям.
Например, в ответ на запрос, касающийся моста "Золотые ворота", у чат-бота начали срабатывать нейронные сети, связанные с массивом данных о Сан-Франциско, округе Марин и фильмом Хичкока "Головокружение", действие которого также происходит в Сан-Франциско. Нейросеть обращала внимание на самые запрашиваемые данные и игнорировала самые непопулярные.
При этом журналисты отмечают, что у Anthropic могут быть определенные деловые мотивы для проведения данного исследования.
Оригинал статьи: https://www.nur.kz/technologies/software/2104941-startap-v-sfere-ii-iz-ssha-opublikoval-issledovaniya-o-principah-raboty-neyrosetey/
В случае, если ваш никнейм не соответствует требованиям правил, пожалуйста, измените его до 4 октября. В противном случае, он будет заменен автоматически.