---
title: 연구자들, 대규모 언어 모델의 자기 성찰 능력 검증 시도
url: https://www.dataloco.com/ko/story-113
published: 2026-11-10T08:47:04+00:00
language: ko
section: AI
source: https://habr.com/ru/articles/1104758/?utm_campaign=1104758&utm_source=habrahabr&utm_medium=rss
organizations: Anthropic, New York University
publisher: Dataloco
---

# 연구자들, 대규모 언어 모델의 자기 성찰 능력 검증 시도

연구자들이 대규모 언어 모델이 자신의 사고 과정을 인식하는 능력인 자기 성찰, 즉 인트로스펙션 능력을 갖추고 있는지 조사하고 있습니다. 이 현상은 인간과 동물에 대해 한 세기 넘게 연구되어 왔으나, 최근에는 신경망 기반의 수학적 구조인 언어 모델로 연구 대상이 확대되었습니다.

Anthropic의 연구원인 Jack Lindsey는 2025년에 언어 모델의 신경망에 직접 생각들을 삽입하는 디지털 신경 외과 수술 방식의 검증법을 개발했습니다. 이 실험을 통해 모델이 이러한 개입을 탐지하고 설명할 수 있다는 점이 확인되었으며, 이는 자기 성찰과 유사한 모습으로 나타났습니다. 다만 이 연구는 의식이나 1인칭 주관적 경험에 대한 광범위한 주장을 포함하지 않고 좁은 범위의 질문에 국한되었습니다.

이후 1년 동안 다른 모델들을 대상으로 한 재현 실험이 이어졌습니다. 일부 현상은 자기 성찰과 무관한 더 단순한 설명으로 풀이되었으나, 다른 일부는 여전히 설명하기 어려워 이를 자기 성찰의 발현으로 볼 것인지에 대해 치열한 논쟁이 계속되고 있습니다. Jack Lindsey는 이론적 합의가 없는 현재 상태에서 많은 경험적 연구를 수행하는 것이 최선의 길이라고 밝혔습니다.

뉴욕 대학교의 연구원 Shauli Ravfogel은 언어 모델이 인간이 쓴 방대한 텍스트로 학습되었기 때문에, 내부 상태에 대한 답변이 단순히 학습 데이터에 나타난 인간의 내면 묘사를 모방한 것일 수 있다고 지적했습니다. 이에 따라 연구자들은 외부 정보만으로는 통과할 수 없고 오직 현재의 내부 상태를 인식해야만 성공할 수 있는 테스트를 개발하고자 합니다.

Jack Lindsey와 동료들은 특정 개념을 부호화하는 신경원 활동 패턴을 식별하는 방법을 개발했습니다. 예를 들어 금문교나 내부 갈등과 같은 개념의 패턴을 인위적으로 강화하여 모델의 답변을 해당 개념으로 유도할 수 있습니다. 2024년 5월의 공개 실험에서 Anthropic의 Claude 모델은 금문교에 집착하도록 수정되어, 맥도날드 음식의 칼로리를 묻는 질문에 금문교의 강철 케이블이 약 160만 칼로리를 포함하고 있다는 식으로 답변했습니다.

한 사례에서 모델은 다리를 언급하지 말고 사과 파이 레시피를 알려달라는 요청을 받았으나, 답변 끝부분에 금문교의 풍경을 언급한 뒤 스스로 실수를 깨닫고 다시 시작하겠다고 말했습니다. Jack Lindsey는 이러한 순간이 인식의 것처럼 보이지만, 모델이 단순히 자신이 쓴 글을 읽고 이상함을 감지한 것일 수 있으며 이것이 내부에서 일어나는 일을 인식했다는 증거가 될 수는 없다고 설명했습니다.

## This story in other languages

- [हिन्दी](https://www.dataloco.com/hi/kaya-madalsa-aaiiaaii-janata-ha-ka-va-kaya-sacata-ha-vajanianaka-isaka-jaca-kara-raha-ha)