AI 프로그래밍의 한계를 절감하고 있는 아마존

아마존은 내부 AI 코딩 에이전트 Kiro가 AWS Cost Explorer에 13시간 장애를 일으킨 것을 포함해 최근 수개월간 AI 지원 코드로 인한 운영 장애가 최소 세 차례 이상 발생했으며, 3월 초에는 하루에 네 건의 중대 사고가 겹쳤다. 아틀라시안(1,600명)·블록(4,000명)·아마존(3만 명) 등 기업들이 AI 투자를 위해 대규모 감원을 단행하고 있으나, 아마존은 AI 안전장치가 아직 확립되지 않았음을 인정하고 향후 90일간 AI 지원 운영 변경 시 상급 엔지니어 승인 의무화 등 새 규칙을 도입했다. 아마존 경영진은 장애 원인을 '사용자 실수'로 규정하지만, 핵심 문제는 AI에 운영자 수준 권한을 부여하면서 충분한 감독 체계 없이 인간을 대체한 데 있다.