Облачное подразделение корпорации Amazon — Amazon Web Services (AWS) не менее двух раз сталкивалось со сбоями в работе из-за ошибок, связанных с собственными системами искусственного интеллекта Kiro AI, пишет The Financial Times (FT) со ссылкой на источники.
Один из сбоев произошел в середине декабря, когда разработчики разрешили Kiro AI внести несколько изменений. По словам источников, система на базе ИИ, способная действовать автономно, определила, что наилучшим решением будет «удалить и заново создать среду». Неполадки устраняли в течение 13 часов.
«За последние несколько месяцев мы уже наблюдали как минимум два сбоя в работе производственных систем», — сказал один из высокопоставленных сотрудников AWS. Причинами служили как раз вмешательства ИИ-бота, который должен был решить проблему без человеческого контроля: «Сбои были незначительными, но вполне предсказуемыми», — объяснил тот же источник.
Amazon настаивает, что все сбои произошли из-за ошибок человека, а не ИИ. Компания заявила, что по умолчанию Kiro «запрашивает авторизацию перед выполнением каких-либо действий», но отметила, что у разработчика, участвовавшего в декабрьском инциденте, были «более широкие права доступа, чем ожидалось».
При этом компания планирует расширять возможности ИИ-бота, чтобы выйти за рамки вайб-кодинга.
Одним из направлений развития ИИ-ботов Amazon стало развитие Amazon Q Developer, помощника в генерации кода, По словам трех источников FT, он был задействован в предыдущем сбое.
