AI도 환각 증상이 있다?

by 일분톡

동상이AI[한마디로]

AI에 대한 부모와 자녀 간 의견이 갈리고 있다. 같은 시대, 같은 기술을 접하면서도 그야말로 동상이몽이다. 설문조사 결과를 담아본다.

✔️ 챗GPT 사용해 본 적 있는가? 12~18세 학생(58%) vs. 부모(30%)

✔️ 챗GPT를 들어본 적은 있는가? 학생(54%) vs. 부모(30%)

✔️ 학교에서 챗GPT 사용해 본 적 있는가? 학생 중 50%가 사용 vs. 부모 중 26%만이 자녀가 학교에서 챗GPT 사용했다고 응답.

-> 즉, 자녀들이 부모 몰래 AI를 사용하고 있다는 의미다.

✔️ 유의미한 결과? 챗GPT는 인공지능, 틱톡, 암호화폐, 디스코드 등 차세대 기술 중 하나다. '차세대 기술'이니 자녀가 부모보다 더 잘, 더 빠르게 흡수하는 건 당연지사. 그러다 보니 아이가 AI 등의 기술을 받아들이는 속도보다, 이에 필요한 보호장치를 만드는 부모의 속도가 더 느릴 수 있다는 우려가 나온다.

물론 양 세대 간 비슷한 의견도 존재한다. 부모(61%)와 학생(51%) 모두 과반수가 규칙이 마련될 때까지 학교에서 챗GPT 사용을 제한해야 한다고 생각하는 것. 또한 부모의 65%와 학생의 85%는 AI 프로그램이 교육에 긍정적인 영향을 미칠 거라고 믿는다는 결과다.

환각증상은 짙어질까[한마디로]

챗GPT가 엄청나게 놀라운 건 사실이지만, 맹신했다가는 'AI 환각'에 빠져들 수 있겠다. 사실이 아닌 것을 진실인마냥 꾸며내는 것을 '환각'이라 하고 이것이 점점 더 교묘해질수록 우리가 보고 듣는 모든 것이 리얼인지 구분 안가는 지경이 올 수 있다.

✔️ 무슨 일인데? 최근 오픈AI에 경고장 날린 이들이 등장했다. 호주의 한 지역 시장인 브라이언 후드가 황당한 경험을 했다. 챗GPT가 본인을 2000년대 초 호주중앙은행 자회사와 관련된 해외 뇌물 수수 스캔들 당사자로 허위 지목한 것이다. 범죄 혐의로 기소된적 조차 없는데 챗GPT는 너무 당당히 '후드는 범죄자야'라고 알리고 있으니 미치고 팔짝 뛸 노릇. 당장 오픈AI에 해당 오류를 시정하지 않으면 명예훼손 소송을 제기한다고 경고했다.

✔️ 이뿐만이 아니다? 더 기가막힌 사연도 있다. 미국의 조너선 털리라는 교수가 동료 교수로부터 얼토당토않은 얘기를 들었다. '털리, 내가 연구하려고 챗GPT에 미 법학자들의 성희롱 사례를 기사 출처와 함께 최소 5건 알려달라고 질문했거든? 근데 조지타운대의 털리 교수가 알래스카 현장 학습에서 한 여학생에게 성희롱 발언을 했고 그를 만지려 했다 고 답이 나왔어!'라고 알린 것이다. 여기에 ‘2018년 3월 21일 WP 기사’까지 근거로 들었는데... 알고보니 해당 기사는 존재하지도 않을뿐더러 털리 교수는 그 누구에게도 관련 사건으로 고발당한 적이 없다는 것이다.

✔️ 리얼 심각한데? 적어도 구글링해서 나오는 자료들은 출처를 알 수 있지만 챗GPT는 오직 챗GPT만이 출처가 된다. 즉 챗GPT 대답에 대한 진위를 재차 삼차 확인하지 않은 이상, 그대로 진실로 받아들이기 쉽다. 이것이 'AI 환각' 증세다. 이런 사례를 접한 오픈AI도 대책을 내놓고 있다. 챗GPT가 이용자 데이터를 무단 수집하고 개인 정보를 유출할 수 있다는 우려가 커지자, 이용자가 챗GPT의 학습에 자신과의 대화 데이터를 활용해도 되는지 선택할 수 있는 기능을 추가했다. 지난 1월에도 AI가 쓴 글을 찾아내는 ‘클래시파이어’를 공개했지만 식별 성공 확률은 26%에 그쳤다.

✔️ 우리가 나선다! 엔비디아가 AI 환각을 차단하겠노라 '네모 가드레일'이라는 SW를 발표했다. 챗봇에 이 SW를 실행하면 대규모 언어 모델을 이용해 다른 언어 모델에게 사실 확인을 요청해 '환각'을 감지한다. 다른 모델이 일치하는 답을 찾지 못하면 "모르겠다"는 답이 돌아오는 형식이다. 엔비디아는 현재 AI 개발에 이용되는 전 세계 반도체 시장의 90% 이상을 장악하고 있다.

꿈을 다시 꾸다

너무 좋은 꿈을 꾸면 현실에서도 계속 생각날 때가 있다. 꿈에서 본 장면 그대로를 재연해주는 AI가 나왔으니, 바로 [여기]서 텍스트를 입력하면 일러스트로 꿈을 다시 그려준다.

돈 버는 크리에이터 모셔요

메타가 페북과 인스타 게시물로도 수익을 창출할 수 있는 새로운 방법을 테스트 중이다. 즉 동영상 주변에 게재되는 광고가 아닌 시청자 기반으로 수익을 창출하는 방법이다. 틱톡을 견제하고 릴스를 살리기 위한 전략이며, 크리에이터에게 더 많은 수익이 돌아가는 구조여야, 더 뛰어난 크리에이터로부터 더 좋은 콘텐츠가 양성된다는 선순환 전략이다.

트위터 new CEO는 누구?

일론 머스크가 트위터 CEO 자리에서 내려오며 새 대표로 미국 미디어 기업 NBC 유니버설 광고·파트너십 대표 린다 야카리노를 낙점했다. 머스크가 지난해 말 트위터를 440억 달러에 인수하고 광고주가 대규모 이탈하면서 위기에 봉착했는데, 트위터의 수익성 악화를 해결할 적임자로 야카리노 등판이 이뤄졌다는 분석이다.

펠로톤 악재악재악재!

탑승 중 바이크 안장이 부서져 부상할 위험이 있는 펠로톤 운동용 바이크 200만 대가 리콜된다. 이에 따라 펠로톤 주가는 8.9%나 급락했다.

리콜 들어갑니다

중국이 테슬라 브레이크와 가속기 결함을 지적하자 테슬라가 중국에서 판매된 거의 모든 전기차에 대한 리콜을 선언했다. 모두 111만대의 차량을 리콜할 예정인데 '오버 더 에어'(OTA) 방식으로 수리한다. 이는 차량의 무선 네트워크 업데이트를 가리키는데, 직접 차량을 리콜하는 것이 아니라 원격으로 프로그램을 업그레이드해 문제가 되는 부분을 개선하는 방법이다.

지금 가장 슬픈 디즈니

2023회계연도 2분기(올해 1월 1일~4월~1일) 디즈니플러스 구독자 수는 1억5780만명을 기록해 3개월 전보다 400만명 감소했다. 그러면서 월트디즈니 주가가 10일 기준 시간 외 거래에서 4.79% 하락했다. 다만 실적 자체는 월가 예상을 벗어나지 않았는데 매출액 218억1500만달러를 올렸다. 아무래도 작년 12월의 구독료 인상이 수익성 방어에 도움이 됐다는 분석이다.

Credit Info
제공 일분톡

더 알아보기

일분톡

일분톡

아마존, AI 손목밴드 ‘Bee’ 인수

2025-08-05 00:00:00
일분톡

2026 월드컵 사진 사수 작전

2025-07-28 00:00:00
일분톡

오픈AI, ‘ChatGPT Agent’ 공개

2025-07-26 00:00:00
일분톡

우주에서 ‘약’ 벌이는 신생 벤처

2025-07-19 00:00:00

BEST STORIES

국민건강보험공단

손 거스러미 함부로 뜯지 마세요! 조갑주위염 주의!

2025-08-01 00:00:00
일간스포츠

'우승 겨냥' 한화 이글스, '타격 기계' 손아섭 영입...현금 3억원+3R 지명권 트레이드 [오피셜]

2025-08-01 00:00:00
내친구서울(서울특별시)

여름이 제일 좋아! 서울여름대백과

2025-08-05 00:00:00
주간동아

Z세대가 일컫는 최신 트렌드 ‘제철 코어’

2025-08-05 00:00:00

자동차/TECH

일분톡

엔비디아, 시총 4조달러 돌파

2025-07-17 00:00:00
일분톡

머스크, ‘아메리카당’ 창당 선언

2025-07-16 00:00:00
일분톡

중고 전기차가 쏟아진다

2025-07-15 00:00:00
일분톡

선 넘는 AI (Feat.AI)

2025-07-07 00:00:00