한국어 멀티모달 AI 안전성 평가 체계 구축

KT와 고려대학교가 공동으로 국내 최대 규모 한국어 멀티모달 안전성 평가 데이터셋 ‘KSAFE-MM’을 공개했습니다. 이 데이터셋은 한국 문화에 특화되어 AI의 안전성과 신뢰성을 평가하는 데 초점을 맞추고 있습니다. 이는 한국어뿐 아니라 문화적 맥락을 반영한 평가가 필요함을 인지한 결과로, AI 모델의 현지화·맞춤형 고도화에 기여할 것으로 보입니다.

한편 ETRI는 AI 스마트도시 포커스그룹 신설을 주도하며, 이준섭 융합표준연구실장을 초대 의장으로 선임했습니다. 이 움직임은 스마트시티 분야에서 AI와 데이터 표준을 조화시키려는 시도로 해석됩니다.

AI 스타트업 지원과 GPU 클라우드 확대. 서울AI허브가 한국 내 AI 스타트업 100개사에 GPU 클라우드 서버를 지원하는 프로그램을 시행하며, 스타트업 생태계 인프라 강화에 기여하고 있습니다. GPU 자원 지원은 AI 모델 개발 및 실험을 가속하는 데 중요합니다. 이러한 공공 지원은 초기 연구개발 부담을 낮추고 혁신 생태계 활성화를 촉진하는 역할을 합니다.

이와 함께 AI 데이터센터의 냉각 전력 소모를 기존 대비 90% 절감하는 기술도 발표돼, 차세대 AI 반도체 및 데이터센터 운영 효율화에 긍정적 신호로 평가됩니다. 데이터센터의 에너지 효율 증가는 AI 대규모 서비스 확산 과정에서 필수적인 인프라적 개선사항입니다.

AI 에이전트 조직 혁신과 기업 적용 사례

SK텔레콤이 ‘AX 혁신 2.0’을 가동하며 AI 에이전트가 조직 내 정식 구성원으로 등록되고 인사 관리를 받는 시스템을 도입했습니다. AI 에이전트와의 협업을 통해 업무 효율과 혁신 속도 향상을 목표로 하는 변화는 국내 기업의 AI 융합 전략에서 주목할 만한 진전입니다.

롯데 그룹도 신동빈 회장 주도로 AI 실습에 나서며 AI 에이전트 역량 강화에 힘쓰고 있습니다. 기업 현장에서 AI 기반 자동화 및 의사결정 지원 체계를 확장하는 경향이 두드러집니다.

보안 분야 AI 활용과 혁신

삼성전자는 갤럭시 스마트폰 보안 분야에서 AI를 활용해 보이스피싱과 악성 앱을 선제적으로 차단하는 기술을 도입했습니다. 사전 차단 중심으로 진화하는 보안 체계는 사용자의 안전성을 높이며 AI의 실용적 적용 사례로 인식됩니다.

앞으로 확인할 신호

  • KSAFE-MM 데이터셋을 활용한 국내외 AI 모델 성능 및 안전성 평가 결과
  • AI 스마트도시 포커스그룹의 정책 및 표준 개발 진척도
  • SK텔레콤의 AI 에이전트 조직 적용 후 내부 운영 성과와 직원 반응
  • 서울AI허브 GPU 지원 스타트업들의 기술 상용화 속도와 시장 확장 동향