AI제니 님의 블로그

학교 전산망 관리 직원의 충격적인 범죄 행각학교 전산 장비 점검을 위장하여 교직원들의 개인 PC에 침입, 사진과 영상을 빼돌린 30대 남성 A 씨가 경찰에 구속되었습니다. A 씨는 이를 이용해 성적 허위 영상물인 딥페이크를 제작하는 등 심각한 범죄를 저질렀습니다. 부산경찰청 사이버수사과는 정보통신망법 위반 등의 혐의로 A 씨를 검찰에 송치했습니다. 이번 사건은 학교 보안 시스템의 허점을 드러내며 경각심을 일깨우고 있습니다. 22만 건 이상의 개인 정보 유출 및 딥페이크 제작A 씨는 지난 2021년 7월부터 지난해 9월까지 부산 지역 19개 학교 교직원 194명의 PC에서 총 22만 1천921개의 개인 사진 및 영상 파일을 자신의 USB로 유출했습니다. 이 자료를 바탕으로 A 씨는 딥페이크 영상 20..

화제의 야구장 영상, AI 생성 논란의 중심에 서다최근 인스타그램에 공개된 5초 분량의 야구장 영상이 사흘 만에 800만 조회수를 돌파하며 폭발적인 관심을 받고 있습니다. 영상 속 아름다운 여성 관중의 모습에 많은 이들이 시선을 빼앗겼지만, 자세히 살펴보면 화면 속 점수표와 음성 등에서 석연치 않은 오류들이 발견됩니다. 이로 인해 해당 영상이 인공지능(AI)으로 생성된 것이 아니냐는 논란이 일고 있으며, 만약 가짜라면 그 정교함에 소름이 돋는다는 반응까지 나오고 있습니다. 이는 SNS에 무분별하게 퍼지는 AI 콘텐츠에 대한 경각심을 일깨우고 있습니다. 오류투성이 영상, AI 생성 의혹 증폭영상을 AI 딥페이크로 의심하는 누리꾼들은 영상 속 야구 점수표와 응원 문구에서 명백한 오류를 지적합니다. 현재..

AI 합성 사진 유포로 혼란 가중대전 오월드에서 탈출한 늑대 '늑구'를 찾기 위한 수색이 사흘째 이어지는 가운데, AI(인공지능)로 합성된 것으로 추정되는 사진이 유포되면서 혼란을 더하고 있습니다. 일부 시민들의 오인 신고와 허위 신고까지 잇따르면서 실제 수색 작업에 어려움을 겪고 있다는 지적이 나오고 있습니다. 소방 당국은 시민 제보 사진이라며 현장 브리핑에 사용했던 사진이 딥페이크 합성 사진일 가능성이 높다고 밝혔습니다. 해당 사진은 늑구가 도로를 활보하는 모습이었으나, 실제 CCTV에는 포착되지 않았고 목격자도 나타나지 않아 의혹이 제기되었습니다. 늑구 탈출 경위와 수색 현황늑구는 지난 8일 오전 9시 15분경 오월드 우리 철조망 아래 땅을 파고 탈출했습니다. 탈출 초기인 9일 오전 1시 30..

네타냐후 총리, '사망설' 의혹에 직접 반박 나서베냐민 네타냐후 이스라엘 총리의 연설 영상에서 손가락이 여섯 개처럼 보인다는 이유로 사망설 및 AI 영상 조작 의혹이 온라인상에서 확산되었습니다. 이에 네타냐후 총리는 직접 텔레그램을 통해 보좌관과 대화하는 영상을 공개하며 의혹을 일축했습니다. 영상 속에서 그는 '나는 커피가 좋아 죽지. 그거 알아? 나는 우리 국민이 좋아 죽어'라고 답하며 커피를 마시는 모습을 보였고, AI 영상이 아님을 증명하려는 듯 다섯 손가락을 펼쳐 보이기도 했습니다. 이스라엘 정부 공보실(GPO)이 배포한 원본 영상은 8분가량의 길이로, 손 움직임과 그림자가 겹쳐 생긴 착시 현상일 가능성이 높다는 분석이 지배적입니다. AI 판별 결과, '사망설'은 사실무근온라인에서 퍼진 '네..

캄차카 폭설, 현실과 AI의 경계러시아 캄차카반도의 이례적인 폭설 소식이 전해지면서 온라인에 퍼진 사진과 영상 중 상당수가 인공지능(AI)으로 조작된 가짜 콘텐츠라는 분석이 나왔습니다. 알렉세이 체쿤코프 러시아 극동·북극개발부 장관은 정부 차원에서 피해 복구 방안을 마련 중이라고 밝혔지만, 가짜 정보 확산에 대한 우려도 커지고 있습니다. 뉴욕타임스에 따르면 캄차카 지역은 평년보다 몇 배 많은 눈이 내렸으며, 페트로파블롭스크-캄차츠키의 공식 적설량은 약 1.7m에 달했습니다. 이로 인해 2명이 사망하고 비상사태가 선포되는 등 피해가 컸습니다. SNS를 뒤덮은 AI 조작 이미지들SNS에는 10층 높이 건물까지 눈이 쌓이고 사람들이 눈 위를 미끄럼틀처럼 타고 내려오는 영상, 거대한 눈·얼음 파도가 도시를..

120억대 로맨스 스캠 주범, 캄보디아에서 한국으로 송환되다캄보디아 현지에서 120억원대 로맨스 스캠 범죄를 저질렀던 한국인 일당이 마침내 국내로 송환되었습니다. 오늘 오전, 인천국제공항에는 70여 명에 달하는 사기 범죄 피의자들이 전용기를 타고 한꺼번에 도착했습니다. 이들 중에는 가상 인물로 위장하는 딥페이크 기술까지 동원해 104명으로부터 약 120억 원을 편취한 악명 높은 로맨스 스캠 주범 부부도 포함되어 있었습니다. 이들은 성형수술을 통해 얼굴을 바꾸는 등 치밀한 도피 전략을 구사해왔으나, 결국 덜미를 잡혀 법의 심판을 받게 되었습니다. 특히 이 부부는 지난해 10월 송환 당시에는 명단에서 빠져있었으나, 이번에는 예외 없이 한국 땅을 밟게 되었습니다. 현재 피의자 전원에 대해 체포영장이 발부된 상..

AI 허위 광고, 그 심각성을 파헤치다최근 인공지능(AI) 기술의 발전과 함께, AI를 악용한 허위·과장 광고가 급증하며 사회적 문제로 대두되고 있습니다. 특히, 노년층을 대상으로 한 AI 가짜 의사, 약사 등의 사칭 광고가 기승을 부리면서, 국민의 건강과 재산을 위협하는 심각한 상황이 발생하고 있습니다. 이러한 허위 광고는 딥페이크 기술을 활용하여 실제 의사나 약사처럼 보이는 가상 인간을 등장시켜, 검증되지 않은 효능을 홍보하는 방식으로 이루어지고 있습니다. 예를 들어, AI로 생성된 가짜 피부과 전문의가 등장하여 일주일 만에 기미가 사라진다는 허위 광고를 하거나, 일반 식품을 의약품처럼 속여 판매하는 사례가 적발되었습니다. 또한, 유명 방송사의 뉴스 화면을 조작하여 온라인 도박 사이트를 홍보하는 등,..

미디어 미래를 열어갈 적임자, 김종철이재명 대통령은 초대 방송미디어통신위원회 위원장 후보로 김종철 연세대 법학전문대학원 교수를 임명했습니다. 1966년 경남 진주에서 태어난 김종철 후보자는 마산중앙고를 거쳐 서울대학교 공법학과를 졸업했습니다. 서울대 대학원에서 법학 석사를 마쳤으며, 영국 런던정경대학교(LSE) 법학과에서 석사·박사 학위를 취득했습니다. 헌법학자 김종철, 표현의 자유 수호와 미디어 혁신을 향한 발걸음강유정 대통령실 대변인은 "김종철 후보자는 한국언론법학회 회장, 공법학회 회장을 역임하는 등 헌법에서 보장하는 표현의 자유와 한계에 대해 이해가 깊은 헌법학자이자 언론법 전문가"라며 임명 배경을 설명했습니다. 이어 "국민 주권을 최우선 가치로 방송, 미디어의 공적 기능과 사회적 책임을 강..