IT/과학
카카오, 인공지능안전연구소와 손잡고 AI 모델부터 에이전트까지 안전성 검증 강화
뉴스보이
2026.09.29. 16:27
뉴스보이
2026.09.29. 16:27
간단 요약
간단 요약
카카오가 인공지능안전연구소와 협력해 AI 모델과 에이전트의 안전성 검증을 강화합니다.
양사는 3단계 협력을 통해 평가 대상을 확대하고 효율적인 공동 평가도구 개발에 나섭니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
카카오가 인공지능안전연구소와 손잡고 AI 안전성 검증 체계를 고도화합니다. 지난 2026년 9월 28일 양사는 전략적 업무협약(MOU)을 체결하고, AI 모델부터 에이전트까지 포괄적인 안전성 평가를 추진하기로 했습니다.
협약에 따라 카카오는 평가 대상인 자사 AI 모델과 에이전트를 제공하고 인프라를 지원하며, 연구소는 평가 수행과 방법론 고도화를 담당합니다. 협력은 3단계로 진행됩니다. 우선 언어모델의 배포 전후 평가를 시작으로, 멀티모달 모델과 AI 에이전트로 범위를 넓힌 뒤 최종적으로 공동 평가도구를 개발할 계획입니다.
김세웅 카카오 AI 시너지 성과리더는 이번 협력을 통해 카카오 AI 모델이 더욱 객관적이고 엄격한 안전성 검증 체계를 갖추게 됐다고 강조했습니다. 김명주 인공지능안전연구소 소장 역시 AI 기술이 고도화될수록 잠재적 위험을 선제적으로 식별하고 평가하는 체계가 무엇보다 중요하다고 덧붙였습니다.
카카오는 지난해 '카나나 1.5 9.8B' 모델을 대상으로 공동 안전성 평가를 진행한 바 있습니다. 또한 지난 6월에는 kt cloud와 협력해 가드레일 모델 '카나나 세이프가드'를 클라우드 환경에 적용하는 등 AI 안전성 강화 전략을 지속하고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
