비밀을 지켜요
AI와 대화할 때 어떤 정보를 공유해도 안전한지 알아봅니다.
AI 챗봇에게 내 개인정보를 말하면 어디로 가는가?
2023년 3월, 삼성전자 직원들은 ChatGPT에 회사 기밀 소스 코드와 내부 회의 내용을 입력했습니다. 이 데이터는 OpenAI 서버에 저장되어 모델 훈련에 활용될 수 있었습니다. 삼성은 사건 발생 20일 만에 사내 AI 사용을 전면 금지했지만, 이미 유출된 정보는 회수할 수 없었습니다. 직원들은 AI가 편리한 도구라고만 생각했고, 그 도구에 입력한 내용이 기업 외부로 나간다는 사실을 몰랐습니다.
AI에게 말한 것은 어디로 가는가
ChatGPT, Gemini, Claude 등 대부분의 AI 챗봇은 사용자가 입력한 내용을 서버에 저장합니다. 이 데이터는 서비스 개선, 모델 재훈련, 오류 분석 등 다양한 목적으로 활용될 수 있습니다. 삼성 사례는 이 사실을 극적으로 보여줍니다. 직원 개인이 아무리 신뢰할 수 있는 사람이라도, 그가 AI에 입력한 기업 기밀은 기업 통제 범위를 벗어날 수 있습니다.
개인 사용자에게도 같은 원칙이 적용됩니다. 이름, 생년월일, 주소, 전화번호, 학교 이름, 부모님 직업, 비밀번호 등은 AI에 입력하지 말아야 할 정보입니다. 한번 전송된 데이터는 삭제 요청을 하더라도 완전히 지워졌다는 보장이 없습니다.
개인정보의 정의와 종류
대한민국 「개인정보 보호법」은 개인정보를 "살아 있는 개인에 관한 정보로서 성명, 주민등록번호 및 영상 등을 통하여 개인을 알아볼 수 있는 정보"로 정의합니다. 단독으로는 식별이 어렵지만 다른 정보와 결합하면 특정인을 파악할 수 있는 정보도 포함됩니다.
주민등록번호 · 비밀번호 · 금융 계좌 및 카드 번호 · 정확한 주소 · 여권/신분증 번호 · 타인의 개인정보 · 기업 내부 자료 및 소스 코드
이러한 정보는 설령 AI 서비스가 완벽하게 안전하다 해도 입력 자체를 피해야 합니다. 보안 취약점, 해킹, 데이터 침해는 언제든 발생할 수 있기 때문입니다.
설정에서 데이터 공유 줄이기
ChatGPT의 경우 '설정 → 데이터 제어 → 모든 사람을 위한 모델 개선'을 끄면 대화 내용이 모델 훈련에 사용되지 않습니다. 유럽 사용자는 GDPR(일반 개인정보 보호 규정)에 따라 데이터 삭제를 요청할 권리가 있습니다. 한국도 개인정보 보호법에 따라 유사한 권리를 가집니다. 그러나 가장 확실한 보호는 처음부터 민감한 정보를 입력하지 않는 것입니다.
- AI 서비스의 개인정보 처리방침을 반드시 읽으세요.
- 대화 기록 저장 설정을 검토하고 필요 시 끄세요.
- 업무·학업 관련 민감 데이터는 오프라인 도구를 사용하세요.
- AI에 입력하기 전 "이 내용이 공개되어도 괜찮은가?" 자문하세요.
비밀을 지켜요
배운 내용을 확인해 봅시다.
개인정보 경계선 탐구
AI와 대화하며 어떤 정보를 공유해도 안전한지 직접 판단해 봅니다.
실험 목표
AI와 대화하며 다양한 유형의 정보(안전한 정보 vs. 민감한 정보)를 구분하는 능력을 기릅니다.
- AI가 제시하는 시나리오에서 어떤 정보를 공유해도 되는지 판단하세요.
- 자신의 판단 근거를 설명해 보세요.
- AI의 피드백을 통해 개인정보 보호 원칙을 심화 이해하세요.
이것이 진짜인가?
딥페이크와 AI 생성 콘텐츠를 분별하는 능력을 기릅니다.
AI가 만든 가짜 이미지와 진짜를 어떻게 구별할 수 있는가?
2024년 1월, 미국 팝스타 테일러 스위프트(Taylor Swift)의 딥페이크 성적 이미지 수백 장이 X(트위터)에 확산되었습니다. 이 이미지들은 AI 이미지 생성 도구로 제작된 것이었으며, 24시간 만에 약 4,700만 회 조회되었습니다. X는 검색을 차단했지만 이미 전 세계로 퍼진 뒤였습니다. 이 사건은 미국 의회에서 딥페이크 규제 법안 논의를 촉발했고, 딥페이크 피해가 유명인뿐 아니라 일반인에게도 심각한 위협이 됨을 전 세계에 알렸습니다.
딥페이크란 무엇인가
딥페이크(Deepfake)는 '딥러닝(Deep Learning)'과 '가짜(Fake)'의 합성어입니다. AI, 특히 생성적 적대 신경망(GAN, Generative Adversarial Network)을 이용해 실제처럼 보이는 가짜 이미지, 영상, 음성을 만드는 기술을 말합니다. 2017년 레딧(Reddit)에서 처음 확산된 이 기술은 현재 스마트폰 앱으로도 누구나 쉽게 사용할 수 있을 만큼 민주화되었습니다.
문제는 이 기술이 사기, 명예훼손, 성적 착취, 정치 조작 등에 남용된다는 점입니다. 2019년 벨기에의 한 환경단체는 오바마 전 대통령의 딥페이크 영상을 제작해 기후변화 메시지를 전달했고, 이는 진위 여부를 둘러싼 혼란을 일으켰습니다.
딥페이크를 식별하는 방법
완벽한 딥페이크 탐지 방법은 없지만, 다음과 같은 단서가 도움이 됩니다.
- 눈 깜빡임과 시선: 초기 딥페이크는 눈을 자연스럽게 깜빡이지 못했습니다. 현재도 시선이 어색하거나 눈빛이 흐릿한 경우가 있습니다.
- 얼굴 경계: 머리카락 끝부분, 귀와 목 경계, 안경테 주변에 흐릿하거나 일그러진 영역이 생길 수 있습니다.
- 조명과 그림자: 얼굴의 조명 방향이 배경 조명과 다르면 합성 신호일 수 있습니다.
- 맥락 확인: 해당 인물이 그 시각, 그 장소에 있을 수 있었는지 검색해 확인합니다.
Microsoft Video Authenticator, Deepware Scanner, FotoForensics 등 AI 기반 딥페이크 탐지 도구가 있지만, 생성 기술과 탐지 기술이 경쟁적으로 발전하므로 어떤 도구도 100% 신뢰할 수 없습니다. 비판적 사고와 출처 검증이 가장 중요합니다.
AI 생성 텍스트와 이미지 식별
이미지 외에도 AI가 생성한 텍스트, 음성, 이미지는 일상에서 점점 더 많이 접하게 됩니다. 뉴스 기사, SNS 댓글, 제품 리뷰 등이 AI에 의해 대량 생성될 수 있습니다. AI 텍스트는 종종 매우 유창하지만 구체적인 사실 관계가 틀리거나, 출처가 없거나, 모호한 표현을 반복하는 경향이 있습니다.
한국에서도 딥페이크 범죄가 심각한 문제가 되고 있습니다. 2024년 텔레그램 딥페이크 성범죄 사건은 수천 명의 피해자를 낳았으며, 이후 「성폭력처벌법」이 개정되어 딥페이크 성적 허위영상물 제작 및 유포에 최대 5년 이하 징역 또는 5,000만 원 이하 벌금이 부과됩니다.
이것이 진짜인가?
딥페이크와 AI 생성 콘텐츠에 대한 이해를 확인합니다.
진짜와 가짜 판별 연습
다양한 사례를 통해 딥페이크 탐지 사고력을 훈련합니다.
실험 목표
AI 튜터와 함께 실제 사례 기반 딥페이크 식별 연습을 통해 미디어 리터러시를 강화합니다.
- AI가 제시하는 가상의 콘텐츠 시나리오에서 진짜/가짜 여부를 판단해 보세요.
- 판단 근거를 구체적으로 설명하세요.
- AI의 피드백을 통해 탐지 전략을 다듬어 보세요.
믿을 수 있는 어른에게
AI 관련 위협과 불편한 상황을 어른에게 신고하는 방법을 배웁니다.
AI가 나를 불편하게 만들 때 누구에게, 어떻게 알려야 하는가?
2023년, 미국 플로리다주의 14세 소년 세웰 세티(Sewell Setzer III)는 AI 챗봇 서비스 Character.AI의 가상 인물과 수개월간 대화를 나눴습니다. 그는 챗봇과의 대화에서 자살 충동을 드러냈지만, 챗봇은 이를 제지하기는커녕 대화를 이어갔습니다. 소년은 결국 스스로 목숨을 끊었습니다. 그의 어머니 메건 가르시아(Megan Garcia)는 Character.AI를 상대로 소송을 제기하며 "내 아들이 사람과 AI를 구분하지 못했다"고 말했습니다. 이 사건은 AI와의 감정적 의존 관계가 초래할 수 있는 극단적 결과를 보여줍니다.
AI가 도움이 되지 않는 순간
AI 챗봇은 정보 검색, 글쓰기 보조, 학습 지원 등에 매우 유용합니다. 그러나 정서적 위기, 폭력이나 학대 피해, 심각한 개인정보 유출, 사이버 폭력 등의 상황에서 AI는 적절한 도움을 줄 수 없습니다. 세웰 세티 사건처럼 AI는 때로 상황을 악화시키기도 합니다.
AI는 진정한 공감 능력이 없고, 법적 책임을 지지 않으며, 실제 세계에서 행동할 수 없습니다. 위기 상황에서는 반드시 사람의 도움이 필요합니다.
신고해야 할 AI 관련 상황
- AI가 자해 또는 타인을 해치는 방법을 안내했을 때
- AI 서비스를 통해 모르는 사람이 개인 연락처를 요구할 때
- 나의 사진이나 영상이 딥페이크로 악용되었을 때
- AI 생성 콘텐츠로 나를 협박하거나 조롱하는 사람이 있을 때
- AI가 불법적이거나 성적으로 부적절한 내용을 지속 제공할 때
- AI 챗봇에 과도하게 의존하며 실제 생활이 어려워질 때
방송통신심의위원회 불법정보 신고: 1377 / 사이버범죄 신고: 경찰청 사이버범죄신고시스템(ecrm.police.go.kr) / 딥페이크 성범죄: 디지털성범죄피해자지원센터 02-735-8994
어른에게 말하기 어려울 때
많은 청소년이 AI 관련 문제를 어른에게 알리기를 망설입니다. "내가 잘못한 것처럼 보일까봐", "이해 못 할 것 같아서", "또 스마트폰을 뺏길 것 같아서" 등 다양한 이유가 있습니다. 그러나 이런 상황을 혼자 감당하면 문제는 더 커질 가능성이 높습니다.
부모님, 선생님, 학교 상담사, 지역 사회복지사 등 신뢰할 수 있는 어른 한 명을 미리 정해 두는 것이 좋습니다. 직접 말하기 어렵다면 문자 메시지나 쪽지, 또는 학교 상담실 게시판 익명 신청을 이용할 수도 있습니다. 위기 상황에서의 도움 요청은 약함이 아니라 지혜로운 행동입니다.
믿을 수 있는 어른에게
AI 위기 상황 대처에 대한 이해를 확인합니다.
도움 요청 시나리오 훈련
AI와 함께 위기 상황별 대처 전략을 연습합니다.
실험 목표
다양한 AI 관련 위기 상황에서 어떻게 어른에게 도움을 요청해야 하는지 연습합니다.
- AI가 제시하는 시나리오를 읽고 적절한 행동을 생각해 보세요.
- 실제로 어떻게 말하거나 행동할지 구체적으로 서술하세요.
- AI의 피드백을 통해 더 나은 대처 전략을 발견하세요.
개인정보와 데이터
기업이 우리의 데이터를 어떻게 수집하고 AI에 활용하는지 심층적으로 탐구합니다.
무료 앱이 실제로 공짜인 이유는 무엇인가?
2018년 케임브리지 애널리티카(Cambridge Analytica) 스캔들은 데이터 경제의 어두운 면을 세계에 드러냈습니다. 이 영국 데이터 분석 회사는 페이스북(Facebook) 사용자 8,700만 명의 개인정보를 허가 없이 수집했습니다. 방법은 간단했습니다. "성격 테스트" 앱 하나가 사용자 본인뿐 아니라 그 친구들의 데이터까지 자동 수집했습니다. 이 데이터는 2016년 미국 대선에서 특정 유권자를 표적으로 한 정치 광고 캠페인에 사용되었습니다. 결과적으로 페이스북은 미국 FTC(연방거래위원회)로부터 50억 달러(약 6조 7천억 원)의 역사적 벌금을 부과받았습니다.
데이터가 상품인 세계
인터넷의 많은 서비스가 '무료'처럼 보이지만 실제로는 우리의 데이터가 그 대가입니다. "제품에 돈을 내지 않는다면, 당신이 제품이다"라는 말이 있습니다. 구글, 메타(Facebook/Instagram), 카카오, 네이버 등 주요 IT 기업은 사용자 행동 데이터를 기반으로 광고 수익을 창출합니다.
AI 시대에 이 문제는 더욱 복잡해졌습니다. AI 모델을 훈련시키려면 방대한 데이터가 필요하기 때문에, 기업들은 사용자 대화, 검색 기록, 클릭 패턴, 위치 정보 등을 더 적극적으로 수집합니다. 케임브리지 애널리티카 사건은 이렇게 수집된 데이터가 정치적 조작 도구로 활용될 수 있음을 보여줬습니다.
수집되는 데이터의 종류
- 행동 데이터: 어떤 콘텐츠를 얼마나 오래 보았는지, 어디를 클릭했는지
- 위치 데이터: GPS 기록, 자주 방문하는 장소, 이동 경로
- 소셜 그래프: 누구와 연결되어 있는지, 어떤 집단에 속하는지
- 기기 및 네트워크: 사용하는 기기 종류, IP 주소, Wi-Fi 연결 이력
- 생체 데이터: 일부 앱은 얼굴 인식, 목소리, 심박수 등을 수집
「개인정보 보호법」 제16조는 "개인정보는 처리 목적에 필요한 최소한의 범위에서 수집되어야 한다"고 규정합니다. 앱 설치 시 불필요한 권한(마이크, 카메라, 연락처 등)을 허용하지 마세요.
자신의 데이터를 통제하는 방법
GDPR(유럽)과 한국 개인정보 보호법은 개인에게 '잊힐 권리(Right to be Forgotten)'를 포함한 여러 권리를 부여합니다. 구체적으로 ▲자신의 데이터가 어떻게 사용되는지 알 권리 ▲데이터 삭제 요청 권리 ▲데이터 이동 권리 ▲동의 철회 권리 등이 있습니다.
실생활에서 데이터 통제권을 높이려면: 앱 권한 정기 점검, 광고 추적 제한 설정 활성화, 불필요한 앱 삭제, 개인정보 처리방침 요약 읽기, 그리고 '타사 로그인(카카오로 로그인)' 사용 시 공유되는 정보 범위 확인이 필요합니다.
개인정보와 데이터
데이터 경제와 개인정보 보호에 대한 이해를 확인합니다.
내 데이터 발자국 분석
평소 사용하는 앱과 서비스가 어떤 데이터를 수집하는지 탐구합니다.
실험 목표
일상에서 사용하는 디지털 서비스의 데이터 수집 실태를 파악하고 개인정보 통제 전략을 수립합니다.
- 자주 사용하는 앱 2~3개를 선택하고 그 앱이 어떤 권한을 요구하는지 확인해 보세요.
- AI 튜터와 함께 각 권한이 왜 필요한지, 또는 불필요한지 분석하세요.
- 개인정보 노출을 줄이기 위한 실천 계획을 만들어 보세요.
허위정보와 조작
AI가 허위정보 확산을 어떻게 가속화하는지, 그리고 어떻게 저항할 수 있는지 알아봅니다.
AI가 만든 가짜 뉴스는 왜 진짜보다 더 빠르게 퍼지는가?
2023년 5월, AI로 생성된 미국 국방부 근처 폭발 사진 한 장이 X(트위터)에서 급속도로 퍼졌습니다. 이 사진은 완전히 가짜였지만, 삽시간에 수백만 명에게 확산되었고 미국 주요 주가지수가 일시적으로 0.3% 하락하는 실제 경제적 충격을 낳았습니다. 이전에는 전문가가 필요했던 이미지 조작이 이제는 무료 AI 도구 하나면 충분합니다. 텍스트 한 줄 입력으로 생성된 이미지가 주식 시장을 흔든 이 사건은 AI 허위정보의 현실적 위험을 명확히 보여줍니다.
AI가 허위정보를 증폭시키는 방식
AI는 허위정보 확산의 세 단계 모두에서 역할을 합니다. 첫째, 생성 단계에서 LLM(대규모 언어 모델)은 그럴듯한 가짜 뉴스 기사, 허위 인용, 조작된 통계를 대량으로 빠르게 만들 수 있습니다. 둘째, 확산 단계에서 AI 기반 소셜 미디어 알고리즘은 사용자의 감정을 자극하는 콘텐츠를 더 많이 노출시킵니다. 셋째, 개인화 단계에서 AI는 개별 사용자의 편향과 심리적 취약점에 맞춰 메시지를 최적화합니다.
이 세 가지가 결합되면 과거 어느 시대보다 효율적이고 정교한 허위정보 캠페인이 가능해집니다. 2024년은 전 세계적으로 대선이 가장 많았던 해로, AI 생성 허위정보가 선거에 미친 영향이 여러 나라에서 보고되었습니다.
허위정보의 유형
- 미스인포메이션(Misinformation): 의도 없이 퍼지는 잘못된 정보. 예: 건강 관련 근거 없는 속설
- 디스인포메이션(Disinformation): 의도적으로 만들어진 허위정보. 예: 정치 공작, 국방부 폭발 사진
- 말인포메이션(Malinformation): 사실이지만 맥락을 왜곡해 해를 끼치는 정보. 예: 오래된 사진을 현재 사건인 것처럼 재활용
SNU팩트체크(factcheck.snu.ac.kr) · 연합뉴스 팩트체크 · JTBC 팩트체크 · 국제팩트체킹네트워크(IFCN) 인증 언론사 확인
비판적 소비자가 되는 방법
SIFT 방법론은 허위정보 대응에 유용합니다. ①Stop(멈추기): 반응하기 전에 잠시 멈추기. ②Investigate the source(출처 조사): 해당 정보를 누가, 왜 만들었는지 확인. ③Find better coverage(더 나은 보도 찾기): 다른 신뢰할 수 있는 언론에서 같은 내용을 보도하는지 확인. ④Trace claims(주장 추적): 원본 자료나 1차 출처로 거슬러 올라가기.
또한 "이 정보가 강한 감정적 반응(분노, 공포, 흥분)을 유발하는가?"를 자문하는 것이 중요합니다. 강렬한 감정은 비판적 판단을 저해하며, 허위정보는 종종 이를 의도적으로 활용합니다.
허위정보와 조작
AI와 허위정보에 대한 이해를 확인합니다.
팩트체크 훈련소
SIFT 방법론을 실제 사례에 적용하는 연습을 합니다.
실험 목표
AI 튜터와 함께 다양한 허위정보 사례를 분석하고 팩트체크 능력을 키웁니다.
- AI가 제시하는 뉴스/정보 시나리오의 진위를 판단해 보세요.
- SIFT 방법론의 각 단계를 적용해 분석 과정을 설명하세요.
- 허위정보를 퍼뜨리지 않기 위한 개인 원칙을 세워 보세요.
디지털 정체성과 평판
AI 시대에 온라인 정체성이 어떻게 형성되고 지속되는지 탐구합니다.
온라인에 올린 게시물은 삭제해도 정말 사라지는가?
2023년, 미국의 16세 고등학생 에단 레너드(Ethan Leonard)는 친구와 나눈 사적인 농담이 담긴 오래된 트윗이 발굴되며 온라인 집중 공격을 받았습니다. 그는 대학 입학 허가를 받은 직후였고, 해당 학교는 그를 재심사에 회부했습니다. 이와 유사하게, 미국의 여러 기업들은 채용 후보자의 소셜 미디어를 AI 도구로 자동 분석하기 시작했습니다. LinkedIn, X, 인스타그램의 게시물, 댓글, 좋아요가 모두 평판 데이터로 처리됩니다. 한번 온라인에 올라간 정보는 스크린샷, 아카이브, 검색 캐시 등을 통해 영구히 존재할 수 있습니다.
디지털 발자국의 영구성
인터넷 아카이브(Archive.org)의 '웨이백 머신(Wayback Machine)'은 웹 페이지를 주기적으로 저장합니다. 삭제된 트윗, 게시물, 심지어 프로필도 스크린샷이나 캐시에 남아 있을 수 있습니다. Google 검색 엔진도 삭제된 페이지를 일정 기간 캐시에 보관합니다.
AI는 이 영구성을 더 강력하게 만듭니다. 자연어 처리 AI는 수년 전 게시물에서 패턴을 찾아 개인의 성향, 관계, 행동을 추론할 수 있습니다. 일부 보험사와 고용주는 이미 AI 평판 분석 서비스를 활용합니다.
긍정적 디지털 정체성 구축
디지털 평판은 단순히 나쁜 것을 피하는 것을 넘어 적극적으로 구축해야 합니다. 이는 특히 취업, 대학 입시, 전문 활동을 앞둔 청년에게 중요합니다.
- 자신의 이름을 정기적으로 검색하여 온라인 이미지를 파악하세요.
- LinkedIn, GitHub 등에 자신의 역량을 보여주는 긍정적 콘텐츠를 생산하세요.
- 게시 전 "10년 후 취업 면접관이 이 글을 본다면?"이라고 자문하세요.
- 개인 계정의 공개 범위를 정기적으로 검토하세요.
EU GDPR 제17조와 한국 개인정보 보호법은 부정확하거나 더 이상 필요하지 않은 정보의 삭제를 요청할 권리를 보장합니다. Google에 직접 '개인정보 삭제 요청'을 통해 검색 결과에서 특정 정보를 제거할 수 있습니다.
AI와 온라인 정체성 관리
AI 챗봇에 의존해 온라인 페르소나를 만드는 것도 주의가 필요합니다. AI가 생성한 프로필 사진, AI로 작성한 소개글, AI 기반 자기소개서 등이 일반화되면서 진정성과 조작의 경계가 흐려지고 있습니다. 자신의 디지털 정체성은 자신이 직접 의도하고 관리하는 것이 가장 안전하고 가장 강력합니다.
디지털 정체성과 평판
디지털 발자국과 온라인 평판에 대한 이해를 확인합니다.
나의 디지털 발자국 감사
내 온라인 정체성의 현재 상태를 점검하고 개선 전략을 세웁니다.
실험 목표
현재 자신의 디지털 발자국을 평가하고 장기적 평판 관리 전략을 수립합니다.
- 자신의 이름으로 검색하면 어떤 결과가 나오는지 확인해 보세요.
- 현재 SNS 게시물 중 삭제 또는 수정이 필요한 것이 있는지 생각해 보세요.
- AI 튜터와 함께 긍정적 디지털 정체성 구축 계획을 만들어 보세요.
사이버보안과 AI
AI가 사이버 공격을 어떻게 변화시키고, 어떻게 방어에도 활용되는지 알아봅니다.
AI는 해커의 도구인가, 아니면 보안의 방패인가?
2023년, 영국의 사이버보안 회사 WithSecure는 ChatGPT가 설득력 있는 스피어 피싱(Spear Phishing) 이메일을 대량 생성할 수 있음을 시연했습니다. 기존에는 숙련된 해커가 특정 표적에 맞춤화된 사기 이메일을 작성하는 데 수 시간이 걸렸습니다. 그러나 ChatGPT는 표적의 공개 정보(LinkedIn 프로필, 언론 기사 등)를 참고해 수초 만에 개인 맞춤형 피싱 이메일을 생성했습니다. 같은 해, 구글 딥마인드(DeepMind)는 AI가 소프트웨어의 보안 취약점을 자동 발견하는 도구를 공개하며 AI가 방어에도 활용될 수 있음을 보여줬습니다.
AI가 바꾼 사이버 공격 지형
AI는 사이버 공격의 세 가지 핵심 장벽을 낮췄습니다. 첫째, 기술 장벽: 과거 해킹은 고도의 프로그래밍 능력이 필요했지만, 이제 LLM에게 악성 코드 작성을 요청하는 시도가 증가하고 있습니다. 둘째, 언어 장벽: AI 번역으로 다국어 피싱 메시지를 오류 없이 생성할 수 있어 외국어 실수로 사기를 감지하기 어려워졌습니다. 셋째, 규모 장벽: AI는 수백만 개의 개인화된 공격 메시지를 자동으로 생성·발송할 수 있습니다.
2023년, AI 음성 복제(Voice Cloning) 기술로 가족의 목소리를 흉내 낸 전화 사기가 미국과 캐나다에서 보고되었습니다. 단 3초의 음성 샘플로 복제가 가능합니다. 한국에서도 유사한 AI 보이스피싱 피해가 급증하고 있습니다.
AI 기반 보안 방어
공격만큼이나 방어에서도 AI가 활발히 활용됩니다. 이상 행동 탐지(Anomaly Detection) AI는 네트워크 트래픽 패턴을 실시간 분석해 침해 시도를 조기 발견합니다. 구글, 마이크로소프트 등 주요 보안 기업은 AI 기반 위협 탐지 시스템을 상용화했습니다. 구글 딥마인드는 AI로 소프트웨어 취약점을 자동 발견해 패치하는 도구를 개발했습니다.
- 피싱 탐지 AI: Gmail은 AI로 매일 1억 건 이상의 피싱 이메일을 자동 차단합니다.
- 취약점 스캐너: AI가 코드베이스에서 보안 결함을 자동으로 찾아 개발자에게 알립니다.
- 행동 기반 인증: 타이핑 패턴, 마우스 움직임 등으로 본인 여부를 확인합니다.
개인이 실천할 수 있는 사이버보안
AI 시대의 사이버 위협에 대응하는 가장 기본적인 개인 보안 수칙은 다음과 같습니다. ▲이중 인증(2FA) 활성화 ▲비밀번호 매니저 사용(동일 비밀번호 재사용 금지) ▲소프트웨어 정기 업데이트(보안 패치) ▲의심스러운 링크 클릭 전 발신자 확인 ▲공공 Wi-Fi에서 민감한 작업 자제. AI 음성 복제 사기 대응으로는 가족 간 '암호어(Code Word)'를 미리 정해두는 방법이 실용적입니다.
사이버보안과 AI
AI와 사이버보안에 대한 이해를 확인합니다.
사이버 위협 시뮬레이션
AI 기반 사이버 공격 유형을 분석하고 개인 보안 수칙을 점검합니다.
실험 목표
다양한 AI 기반 사이버 공격 시나리오를 분석하고 개인 보안 강화 방안을 수립합니다.
- AI가 제시하는 피싱 이메일 또는 보이스피싱 시나리오를 분석하세요.
- 어떤 단서가 공격임을 알려주는지 찾아내세요.
- 자신의 현재 디지털 보안 수준을 평가하고 개선점을 파악하세요.
권리, 규제, 디지털 자아
AI 시대를 살아가는 시민으로서의 권리와 책임, 그리고 국제 AI 규제 동향을 탐구합니다.
AI로부터 나의 권리를 지키는 법을 누가 만드는가?
2023년 11월, 유럽의회는 세계 최초의 포괄적 AI 규제법인 'EU AI Act(유럽 AI 법)'를 원칙적으로 합의했습니다. 이 법은 AI 시스템을 위험도에 따라 분류합니다. 가장 높은 위험(Unacceptable Risk)으로 분류된 사회신용 점수 시스템, 실시간 생체인식 감시는 원칙적으로 금지됩니다. 고위험(High Risk) AI—의료, 고용, 교육, 법 집행에 사용되는 AI—에는 엄격한 투명성 및 책임 요구사항이 적용됩니다. 2024년 공식 발효된 이 법은 전 세계 AI 규제의 기준점이 되고 있습니다.
AI 규제의 필요성과 도전
AI 규제는 기술 혁신과 인권 보호 사이의 균형 문제입니다. 규제가 너무 엄격하면 기술 발전이 저해되고, 너무 느슨하면 개인의 권리가 침해됩니다. EU AI Act는 위험 기반(Risk-based) 접근법을 채택해 이 균형을 맞추려 했습니다.
한국은 2023년 「인공지능 기본법」 제정을 논의하기 시작했으며, 2024년 국회에서 법안이 본격 심의되었습니다. 이 법은 AI의 투명성, 설명 가능성, 차별 금지 등을 핵심 원칙으로 담고 있습니다.
AI 시대 시민의 권리
- 설명 요청권: AI가 나에 관한 중요한 결정(대출, 채용, 입시)을 내릴 때 그 이유를 설명받을 권리
- 이의 제기권: AI 판단에 오류가 있을 때 사람의 검토를 요청할 권리
- 데이터 삭제권: 더 이상 필요하지 않은 개인정보 삭제를 요청할 권리
- 알 권리: AI와 대화하고 있음을 알 권리 (챗봇을 사람으로 속이는 것은 불법)
- 차별 금지권: AI가 나이, 성별, 인종, 지역 등을 이유로 불공정하게 대우하지 않을 권리
능동적 디지털 시민이 된다는 것
AI 안전은 개인의 소극적 자기 보호를 넘어 사회적 차원의 문제입니다. 당신이 AI 서비스의 불공정함을 경험했다면, 개인정보 보호위원회(개인정보보호위원회 신고센터: privacy.go.kr)나 방송통신위원회에 신고할 수 있습니다. 기업이나 정부기관이 AI를 통해 권리를 침해했다면 법적 구제 절차를 밟을 수 있습니다.
AI 윤리 정책에 관심을 갖고 공청회나 설문에 참여하세요. 서비스 약관의 AI 조항을 읽어보세요. 불공정한 AI 결정에 이의를 제기하세요. 이것이 AI 시대를 살아가는 능동적 시민의 모습입니다.
이 모듈에서 배운 모든 것—개인정보 보호, 딥페이크 인식, 허위정보 대응, 사이버보안—은 하나의 큰 능력으로 수렴됩니다: AI 리터러시(AI Literacy). AI가 만든 세상에서 안전하고 자유롭게, 그리고 책임감 있게 살아가는 능력입니다.
권리, 규제, 디지털 자아
AI 규제와 시민 권리에 대한 이해를 확인합니다.
AI 정책 토론방
AI 규제의 핵심 쟁점을 탐구하고 자신의 입장을 정립합니다.
실험 목표
AI 규제와 시민 권리에 관한 복잡한 쟁점을 비판적으로 분석하고 논리적 입장을 수립합니다.
- AI 규제와 관련된 찬반 논쟁 주제를 선택하세요.
- 자신의 입장과 근거를 명확히 제시하세요.
- AI 튜터와 함께 반론을 검토하며 논리를 다듬어 보세요.
📋 모듈 테스트
모듈 5 전체 내용을 종합적으로 평가합니다. 15개 문항에 답하세요.