인간 수준의 추론 능력에 근접하고 있는 ChatGPT와 같은 생성형 AI 모델의 발전 속에서, AI 업계와 학계가 ‘어떻게 사회적 안전과 복지를 저해하지 않으면서 AI의 잠재력을 최대한 발휘할 것인가?’라는 근본적인 질문에 직면했다. 최근 발표된 학술 연구부터 주요 기업의 전략적 출시 지연, 새로운 기업 요금제 공개에 이르기까지, ‘책임감 있는 AI’ 배포를 위한 새로운 청사진이 구체화되고 있다.

스탠퍼드 대학 연구진은 생성형 AI의 과도한 사용이 특정 사용자층의 불안감과 의존성을 심화시킬 수 있다는 연구 결과를 발표하며 경고등을 켰다. 동료 심사를 거친 이 연구는 인간의 개입과 감독이 부재할 경우, AI가 제공하는 설득력 있는 결과물이 정신적으로 취약한 사용자들에게는 ‘양날의 검’이 되어 기존의 정신건강 문제를 악화시킬 수 있다고 지적했다.

이러한 학계의 우려와 흐름을 같이하듯, 기술 혁신을 선도하는 오픈AI(OpenAI)는 ‘오픈 모델’ 출시를 사실상 무기한 연기하며 시장에 놀라움을 안겼다. 이는 심층적인 안전성 감사와 ‘레드팀(Red-team)’ 스트레스 테스트를 수행하기 위한 조치다. 샘 알트만 CEO는 이 추가적인 검토 기간이 전 세계 개발자들에게 기술이 공개되기 전에 발생 가능한 고위험 실패 시나리오를 발견하고 대비하는 데 매우 중요하다고 강조했다.
 

한편, 오픈AI가 새롭게 개편한 ‘팀(Team)’ 요금제는 기업들이 어떻게 AI 기술을 안전장치와 함께 도입할 수 있는지 보여주는 사례다. 고급 기능에 대한 과금 체계를 크레딧 기반으로 전환하고 프로젝트당 파일 제한 용량을 두 배로 늘림으로써, 기업들은 비용을 투명하게 관리하고 사용량 한도를 명확히 설정할 수 있게 됐다. 이는 예상치 못한 비용 급증이나 의도치 않은 데이터 유출과 같은 운영 리스크를 효과적으로 줄이는 데 기여한다.

이러한 일련의 변화들은 금융부터 헬스케어에 이르기까지 모든 산업 분야에 적용될 수 있는 명확한 전략 지침을 제시한다. 주요 AI 모델 출시 전 독립적인 안전성 검토와 정신건강 영향 평가를 의무화하고, 사용량과 리스크 수준을 모두 반영한 요금 모델을 설계하며, 임상 전문가, 윤리학자, 보안 전문가 등 다양한 분야의 협력을 개발 초기 단계부터 통합하는 것이 핵심이다.

안전성을 기술 발전의 저해 요소가 아닌, 신뢰를 구축하는 핵심 동력으로 재정의함으로써 AI 개발사와 도입 기업들은 잠재적 유해성을 방지하며 지속 가능한 혁신을 이어갈 수 있다. 이러한 패러다임이 자리 잡으면서, 앞으로 AI 분야에서는 성찰을 위한 전략적 멈춤이 더욱 빈번해지고, 궁극적으로는 사회와 조화를 이루는 회복력 있는 AI 제품이 등장할 것으로 전망된다.