활용 기술보다 정보 판별력이 우선인 시대로의 전환
인공지능(AI)을 얼마나 능숙하게 다루느냐가 곧 경쟁력이던 시대의 공식이 깨지고 있다. 유럽연합(EU) 이사회는 최근 초등 교육과정 내 AI 리터러시 의무화를 골자로 한 권고안을 확정했다.

이번 결정의 핵심은 아이들에게 AI를 사용하는 기술을 가르치는 것이 아니라, AI가 내놓은 결과물의 오류를 찾아내고 의심하는 법을 가르치는 데 있다. 2026년부터 본격적으로 시행되는 EU AI법은 인공지능이 인간의 보조 도구를 넘어 인지적 취약성을 이용하는 수단이 될 수 있음을 경고한다.

이제 교육의 초점은 파이썬 코딩이나 프롬프트 작성법이 아닌, 기술의 이면을 꿰뚫어 보는 비판적 사고와 디지털 시민의식으로 급격히 이동하고 있다.
 

법이 규정한 ‘위험한 AI’와 미성년자 보호의 원칙
EU AI법 제5조는 미성년자의 인지적 취약성을 이용해 행동을 왜곡하는 AI 시스템을 엄격히 금지한다.

이는 단순히 유해 콘텐츠 차단을 넘어, 학습용 앱이나 챗봇이 아이의 체류 시간을 늘리기 위해 감정적 동조를 이끌어내거나 심리적 압박을 가하는 ‘다크 패턴(사용자를 속이기 위해 설계된 인터페이스)’을 규제 대상으로 삼겠다는 의지다.

또한 제4조는 AI 서비스 제공자에게 리터러시 보장 의무를 부여한다. 기업은 자사 서비스가 생성한 결과물이 AI에 의한 것임을 명확히 고지해야 하며, 시스템의 작동 원리와 한계를 투명하게 공개해야 한다. 기술이 아이들의 정서 및 인지 발달에 개입하는 경로를 법으로 차단하겠다는 논리다.

코딩 교육의 빈자리를 채우는 인문학적 교과 융합
현대 교육의 흐름은 별도의 AI 과목을 신설하는 대신, 국어, 역사, 수학 등 기존 교과에 AI 리터러시를 녹여내는 방식을 택하고 있다. OECD와 EU가 제안한 리터러시 프레임워크에 따르면, 수업의 중심은 기술적 숙련도가 아닌 알고리즘 편향에 대한 인식이다.

가령 국어 수업에서는 챗GPT가 쓴 특정 직업군에 관한 글을 읽으며 그 안에 숨겨진 성별이나 인종적 선입견을 찾아내고 이를 교정하는 훈련을 한다. 역사 수업에서는 AI가 생성한 가상의 과거 사진 속에서 시대착오적인 사물이나 물리적 오류를 발견하는 과정을 통해 시각 정보의 진위를 가려내는 법을 배운다.

이는 기술에 대한 무조건적인 수용이 아니라, 인간 고유의 상상력과 논리로 정보를 교차 검증하는 힘을 기르는 과정이다.

디지털 기술의 주도권을 되찾기 위한 비판적 상상력
전문가들은 이러한 변화가 인공지능 시대의 역설을 보여준다고 분석한다. 기계가 정답을 더 빠르고 정확하게 내놓을수록, 인간에게 요구되는 역량은 역설적으로 '질문하는 힘'과 '의심하는 근육'이다.

기술에 종속되지 않고 주체적으로 사고하는 아이들은 AI가 제공하는 정보를 단순한 지식이 아닌, 검토가 필요한 데이터로 인식한다.

이러한 태도는 성인이 되었을 때 허위 정보나 여론 조작으로부터 스스로를 보호할 수 있는 최소한의 안전장치가 된다. 결국 교육의 본질은 기술의 보조가 아니라, 기술을 부리는 주체로서의 인간성을 확립하는 데 있다.

내 아이가 쓰는 앱은 안전한가: 학부모를 위한 실질적 판별 가이드
학부모와 교사는 단순히 기능이 편리하다는 이유로 에듀테크 앱을 선택해서는 안 된다. EU AI법의 정신을 반영하여, 자녀가 사용하는 소프트웨어가 아이의 인지적 권리를 침해하고 있지는 않은지 다음의 구체적인 기준으로 점검해야 한다.

✔️ 첫째, 유사 인격화(Personification)를 통한 정서적 가스라이팅 여부를 확인해야 한다. 아이가 학습을 종료하려 할 때 챗봇이 "네가 가면 난 너무 슬플 거야", "우린 친구 아니었어?"와 같이 죄책감을 유발하는 발언을 하는지 살펴야 한다.

인공지능은 감정을 가진 존재가 아니라 인간이 설계한 '도구이자 기계'일 뿐이라는 사실을 아이들에게 명확히 인식시켜야 한다. 이를 간과할 경우 아이의 현실 사회성 발달이 저해되고 기계에 대한 부적절한 정서적 의존이 발생할 수 있다.

✔️ 둘째, 출처 공개 및 '환각 현상'에 대한 경고 표시가 명확해야 한다. AI가 제공하는 정보가 사실이 아닐 수 있음을 아이가 시각적으로 즉시 인지할 수 있도록 '주의' 문구나 출처 링크가 직관적으로 배치되어 있는지 확인해야 한다.

✔️ 셋째, 데이터 주권과 '잊힐 권리'의 실질적 보장이다. 학습 과정에서 수집된 아이의 목소리, 필적, 표정 등의 데이터가 기업의 학습 모델 고도화를 위한 자원으로만 쓰이고 있지는 않은지 확인해야 한다. 

특히 이용 계약 종료 시 해당 데이터가 서버에서 ‘즉시 및 영구 삭제’된다는 조항이 명문화되어 있는지, 그리고 부모가 삭제 완료 여부를 객관적으로 확인할 수 있는 권한을 제공하는지가 핵심이다. 이는 어린 시절의 데이터가 성인이 된 이후까지 '디지털 낙인'으로 남아 개인의 삶을 제약하는 일을 방지하기 위한 최소한의 안전장치다.

✔️ 넷째, 생성물에 대한 'AI 표식(Watermark)' 의무화다. 아이가 과제를 수행하며 얻은 결과물에 AI의 도움을 받았다는 표시가 자동 생성되는지 확인해야 한다. 이는 아이가 자신의 노력과 기술의 도움을 명확히 구분하고, 정직한 창작 윤리를 형성하는 첫걸음이 된다.

✔️ 다섯째, 실시간 모니터링 및 부모 통제(Parental Control) 권한의 보장이다. 부모가 앱의 설정에 직접 접근하여 아이와 AI가 나눈 대화의 맥락을 모니터링하거나, 특정 주제에 대한 접근을 제한하고 사용 시간을 관리할 수 있는 실질적인 '관리자 권한'이 제공되어야 한다. 

기술이 부모의 교육적 개입을 차단하는 '블랙박스'가 되어서는 안 되며, 언제든 보호자가 개입할 수 있는 투명한 인터페이스를 갖췄는지 확인하는 것이 필수적이다. 

[전문 용어 사전]
▪️EU AI법 (EU AI Act): 세계 최초로 제정된 포괄적인 인공지능 규제법으로, AI의 위험도에 따라 등급을 나누어 규제하며 미성년자 보호를 강력하게 규정한다.

▪️AI 리터러시 (AI Literacy): 인공지능 기술의 작동 원리를 이해하고, AI가 생성한 정보를 비판적으로 분석·평가하여 효과적으로 활용할 수 있는 능력이다.

▪️알고리즘 편향 (Algorithm Bias): 학습 데이터의 불균형이나 알고리즘 설계상의 오류로 인해 특정 집단에 대해 차별적이거나 왜곡된 결과가 도출되는 현상이다.

▪️다크 패턴 (Dark Pattern): 사용자를 속여서 특정 행동을 하게 하거나 의사결정을 왜곡하도록 설계된 악의적인 사용자 인터페이스 디자인을 말한다.

▪️환각 현상 (Hallucination): 인공지능이 학습한 데이터에 없는 내용을 마치 사실인 것처럼 그럴싸하게 지어내어 답변하는 현상이다.

✔️같이 읽으면 좋을 기사
4월 25일자 기사 [Pocus 심층기획 | AI 리터러시] 2부 EU 어린이 AI 리터러시 의무화: 어린이 창작 권리 가이드