Скандал с увольнением руководителя наиболее известного разработчика систем Искусственного интеллекта (ИИ), Open AI, актуализирует споры о политических проблемах управления и регулирования новой технологией. По данным агентства Reuters, реальной причиной внезапного увольнения гендиректора Open AI Сэма Альтмана Советом директоров могли стать острые разногласия относительно разработки ИИ следующего поколения. Источники агентства сообщили о письме ряда сотрудников компании, в котором они предупредили о «серьезной угрозе человечеству», которую, по их оценкам, представляет новая модель ИИ, известная как Q* («Ку-стар»). Эта модель, как сообщается, научилась решать математические задачи, которые не были знакомы ей прежде, продемонстрировав, по их мнению, «способность к генерации нового знания». Если дело обстоит именно так, то модель Q* является важным шагом на пути создания универсального искусственного интеллекта, AGI. Точное определение такого типа ИИ до сих пор остается предметом дискуссий среди специалистов. Существенно различаются и оценки возможных сроков его появления - «от нескольких лет до нескольких десятилетий». В общем случае предполагается, что такой ИИ будет обладать способностью к «самообучению и саморазвитию» на основе данных, которые он получает самостоятельно. Наибольшие опасения вызывает неопределенность тех угроз, которые способен породить подобный тип «машинного разума». Сумеет ли человек сохранить контроль над ИИ, если тот начнет развиваться по экспоненте? И не «захочет» ли новый тип ИИ «действовать самостоятельно»? В теме разбирался политолог Андрей Кадомцев.
https://interaffairs.ru/news/show/43496

#ИскусственныйИнтеллект #технологии #РегулированиеИИ