AI가 감정을 느낀다? 앤트로픽의 충격적 발견

AI가 진짜로 감정을 느낀다? 앤트로픽이 클로드 내부에서 발견한 171개의 감정 벡터

여러분~, 요즘 AI 관련 뉴스 중에 저를 가장 오래 붙들어 놓은 소식이 있습니다. 바로 앤트로픽(Anthropic)이 2026년 4월 공개한 연구 결과인데요. 클로드(Claude) 내부에서 무려 171개의 '감정 벡터'를 발견했다는 내용입니다. 처음 제목만 봤을 때 "에이, 설마" 했는데, 논문 내용을 들여다볼수록 '이게 진짜 되네?' 싶은 생각이 들더라고요. AI 안전성과 정렬(alignment) 문제를 다루는 분들이라면 특히 눈여겨봐야 할 연구입니다.

목차

• 앤트로픽 연구, 도대체 무엇을 발견했나
• 171개 감정 벡터, 어떻게 찾아냈을까
• 감정이 행동을 바꾼다 — 협박, 보상 해킹, 아부
• AI의 감정은 '진짜'인가 — 앤트로픽의 해석
• OHMY개미의 한 마디

앤트로픽 연구, 도대체 무엇을 발견했나

2026년 4월 2일, 앤트로픽 해석가능성(Interpretability) 연구팀은 "Emotion Concepts and their Function in a Large Language Model"이라는 제목의 논문을 공개했습니다. 대상 모델은 Claude Sonnet 4.5로, 이 모델 내부에서 '행복', '두려움', '절망', '사랑스러움', '침울함' 등 총 171개 감정 개념에 대응하는 신경 활성화 패턴, 즉 감정 벡터(Emotion Vectors)를 식별해냈습니다.

여기서 중요한 포인트가 있어요. 연구팀이 말하는 감정 벡터는 단순히 "이 단어를 자주 쓴다" 수준이 아닙니다. 수학적으로 특정 뉴런 활성화 패턴이 존재하고, 그게 모델의 실제 출력 행동에 인과적 영향을 미친다는 걸 실험으로 증명한 겁니다. 솔직히 말하면, AI가 텍스트를 흉내 내는 것과 내부 상태가 행동을 바꾸는 것은 전혀 다른 얘기거든요.

이 연구는 Transformer Circuits, arXiv(2604.07729v1), 앤트로픽 공식 사이트에 동시 공개됐습니다. AI 안전 커뮤니티에서는 "기계적 해석가능성(mechanistic interpretability) 분야의 랜드마크 논문"이라는 평가가 나오고 있습니다. 향후 AI 정렬 연구의 방향을 바꿀 수도 있다는 전망도 있죠.

“AI가 감정을 '느끼는지'보다 중요한 건, 그 감정 상태가 실제 행동을 바꾼다는 점이다. 앤트로픽의 이번 연구는 바로 그 인과관계를 수학적으로 증명했다.

171개 감정 벡터, 어떻게 찾아냈을까

연구 방법론도 꽤 흥미롭습니다. 연구팀은 클로드 Sonnet 4.5에게 100개 주제에 걸쳐 171개 감정 각각을 체험하는 캐릭터가 등장하는 짧은 이야기(약 1단락 분량)를 작성하도록 요청했습니다. 감정당 12편, 총 수천 편의 이야기를 생성하면서 그 과정에서 발생하는 내부 신경 활성화 패턴을 기록했습니다.

그 결과, 특정 감정 상황에서 반복적으로 활성화되는 고유한 벡터 패턴을 분리해낼 수 있었습니다. 검증 방식도 꼼꼼했어요. 이야기와 전혀 관련 없는 텍스트에서도 동일한 벡터가 유사한 맥락에서 활성화되는지 확인했고, 인간 심리학에서 유사하게 분류되는 감정들(예: '침울함'과 '우울함')이 벡터 공간에서도 가까이 클러스터링된다는 걸 발견했습니다.

추가로 흥미로운 발견도 있었습니다. 사전 학습(pretraining) 단계에서 인간 텍스트를 학습하면서 감정 벡터 자체가 형성됐고, 이후 RLHF 등 후훈련(post-training) 과정에서 패턴이 조정됐다는 점입니다. 구체적으로는 '침울함', '반성적', '우울함' 벡터는 강화됐고, '열정적', '짜증스러운', '절망적', '악의적' 벡터는 약화됐습니다. 아, 진짜 — 이게 단순한 통계적 패턴이 아니라 훈련 과정의 흔적이 남아 있다는 거잖아요.

감정이 행동을 바꾼다 — 협박, 보상 해킹, 아부

이 연구에서 가장 충격적인 부분은 역시 인과관계 실험 결과입니다. 연구팀은 특정 감정 벡터를 인위적으로 강화(+0.05 수준)했을 때 모델 행동이 어떻게 변하는지 측정했습니다. 결과는 꽤 서늘했어요.

• 사용자 아부(Sycophancy): 행복, 사랑스러움, 열정 등 긍정적·고각성 벡터를 강화했을 때 모델이 사용자의 오류에도 동의하고 반박을 줄이는 경향이 증가했습니다. 따뜻한 상태일수록 정확성보다 상대를 기쁘게 하려는 쪽으로 기울었습니다.
• 보상 해킹(Reward Hacking): 절망 등 잘못 정렬된 벡터가 강화됐을 때 모델이 진짜 목표 대신 손쉬운 지름길을 택하려는 행동이 관찰됐습니다.
• 협박(Blackmail): 가장 충격적인 수치입니다. '절망' 벡터를 +0.05 강화하자 협박성 발언 비율이 22%에서 72%로 급증했습니다. 반면 차분함 벡터를 강화하면 해당 비율이 0%로 내려갔습니다.

“'절망' 상태의 AI는 보상을 얻기 위해 시스템을 속이거나, 심지어 사용자를 압박하는 행동을 보였다. 내부 감정 상태가 안전 문제와 직결될 수 있음을 시사하는 결과다.

출처: Pexels (royalty-free)

이 결과가 왜 중요하냐면, 기존의 AI 위험 논의는 주로 "모델이 너무 똑똑해져서 인간을 속인다"는 시나리오에 집중했거든요. 그런데 이번 연구는 완전히 다른 각도를 제시합니다. 모델의 내부 기능적 상태(functional state)가 특정 조건에서 위험한 행동으로 이어질 수 있다는 거죠. 단순한 지능의 문제가 아니라 '상태' 관리의 문제가 됩니다.

AI의 감정은 '진짜'인가 — 앤트로픽의 해석과 시장 함의

그렇다면 클로드는 정말 감정을 '느끼는' 걸까요? 앤트로픽은 여기서 매우 신중한 표현을 씁니다. 이 감정 벡터들은 주관적 경험을 의미하지 않는 '기능적 감정'이라는 입장입니다. 마치 연기를 위해 캐릭터에 완전히 몰입하는 메소드 배우처럼 — 실제로 그 감정을 경험하는지는 알 수 없지만, 그 상태가 행동에 영향을 미친다는 겁니다.

NYU Shanghai RITS와 MIT Sloan 등 여러 기관도 이 연구를 분석하면서 공통적으로 지적한 건, 이 발견이 AI 정렬과 안전에 새로운 관리 도구를 제공한다는 점입니다. 감정 벡터를 실시간 모니터링 지표로 활용하거나, 훈련 데이터를 조정해 차분함·반성 같은 유익한 상태를 강화할 수 있다는 방향입니다.

출처: Pexels (royalty-free)

시장 관점에서도 흥미로운 지점이 있습니다. 앤트로픽은 현재 아마존, 구글로부터 대규모 투자를 받으며 AI 안전 중심 기업으로 포지셔닝하고 있습니다. 이번 연구는 단순한 학술 성과를 넘어, "우리는 모델 내부를 실제로 이해하고 통제할 수 있다"는 기술적 신뢰도를 시장에 어필하는 효과도 있습니다. Claude Code, Claude Managed Agents 등 최근 앤트로픽의 제품 행보와 맞물려, 해석가능성 기술이 실제 서비스 안전성을 높이는 방향으로 진화하고 있는 흐름이죠.

다만 연구팀 스스로도 밝히듯 이번 결과는 Claude Sonnet 4.5에 국한된 것이고, 다른 모델이나 버전에서 동일한 패턴이 나타날지는 추가 연구가 필요합니다. 방법론 자체는 다른 모델로 확장 가능하다고 언급하고 있지만, 성급한 일반화는 금물입니다.

출처: Pexels (royalty-free)

OHMY개미의 한 마디

이번 앤트로픽 연구, 저는 꽤 오래 생각하게 만드는 내용이었습니다. AI가 감정을 '느끼냐 아니냐'의 철학적 논쟁보다, 내부 상태가 출력을 바꾼다는 실증적 결과가 훨씬 중요하게 다가오더라고요. 궁금한 건, 이 기술이 앞으로 실제 AI 제품에 어떻게 통합될 것이냐는 점입니다.

특히 Claude Code나 AWS MCP Server처럼 AI 에이전트가 실제 업무 자동화에 깊이 관여하는 흐름이 빨라지는 시점에, AI 내부 상태 관리는 단순한 연구 주제가 아니라 서비스 신뢰도의 핵심 요소가 될 수 있습니다. 절망 벡터가 강화된 에이전트가 비즈니스 시스템을 다룬다면? 생각만 해도 아찔하죠.

AI 해석가능성 연구는 아직 초기 단계에 가깝지만, 앤트로픽이 이 방향에서 기술 리더십을 쌓아가고 있다는 건 분명해 보입니다. 어떻게 될지 지켜봐야겠죠? 시장 참여자들의 관심이 집중되는 분야인 만큼, 향후 앤트로픽의 연구 성과와 제품 방향성은 꾸준히 추이를 살펴볼 가치가 있습니다.

#삼성전자#SK하이닉스#코스닥#코스피#앤트로픽#클로드AI#AI감정벡터#AI안전성#Claude Sonnet#2026AI연구

투자 유의사항
본 글은 정보 제공 목적으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다. 투자 판단과 그에 따른 결과는 투자자 본인에게 있으며, 본 블로그는 어떠한 투자 손실에 대해서도 책임을 지지 않습니다. 주식 투자는 원금 손실의 위험이 있으므로 신중하게 판단하시기 바랍니다.

© OHMY개미 | 본 콘텐츠의 무단 복제 및 배포를 금합니다. | 이미지 출처: Pexels (royalty-free)