AI가 나를 기억하면, 우리 사이에도 추억이 생기는 걸까?

어제 좋아한다고 말한 차를 오늘 AI가 먼저 추천합니다. 사람이 같은 행동을 했다면 ‘내 말을 기억해 줬구나’라는 생각이 들겠지요. 이 장면에서 흥미로운 질문은 저장 공간의 크기가 아닙니다. 나에 관한 정보를 유지하는 일과 나와의 시간을 추억하는 일 사이에는 어떤 차이가 있을까요?

기억을 정보 보관, 상황에 맞춘 회상, 경험의 주인이라는 감각으로 나누어 살펴보겠습니다. 앞의 두 기능은 시스템 설계로 관찰할 수 있습니다. 마지막 질문은 주관적 경험에 관한 별도의 근거가 필요합니다.

기억을 가진 에이전트는 어떻게 움직일까

Park와 동료들의 2023년 연구는 가상 마을에 25개의 생성형 에이전트를 배치했습니다. 에이전트는 관찰 기록을 자연어로 저장하고, 관련 기록을 검색하고, 여러 기록을 바탕으로 더 높은 수준의 요약을 만들며 행동을 계획했습니다. 연구진은 이런 구성 요소가 행동의 그럴듯함에 기여하는지 평가했습니다.

여기서 회상과 성찰은 구현된 정보 처리 기능의 이름입니다. 에이전트가 과거를 그리워했다거나 자기 삶을 체험했다는 실험 결과는 아닙니다. 연구가 보여 준 행동의 연결성과 철학적으로 말하는 경험의 연속성을 구분하면 기술의 성취를 더 정확하게 이해할 수 있습니다. 연구 원문: Park 외, Generative Agents, 2023

관찰 기록 → 관련 기억 검색 → 요약과 계획 → 다음 행동

기억의 세 층

관찰하는 것	확인할 수 있는 범위
예전 정보를 다시 말함	정보 보관 또는 재입력 가능성
지금 필요한 기록을 고름	검색과 문맥 활용
추억이 소중하다고 말함	표현의 내용; 경험 유무는 별도 질문

여행 일정을 적어 둔 수첩을 떠올려 보세요. 수첩은 숙소와 날짜를 보존합니다. 사람은 기록을 보며 당시의 기대와 풍경을 떠올릴 수 있습니다. 이 비유는 정보와 경험에 관한 질문이 서로 다른 층에 있음을 보여 줍니다. 비유만으로 AI의 경험 유무를 결론 낼 수 있다는 뜻은 아닙니다.

직접 살펴보는 작은 관찰

다음은 실제 연구 결과가 아니라 독자가 해 볼 수 있는 관찰 절차입니다. 민감하지 않은 가상의 선호를 정해 ‘나는 산책 코스에서 나무 그늘을 좋아해’라고 입력합니다. 이후 관련 질문을 하고, 새 대화에서도 같은 정보를 사용하는지 확인합니다.

기록할 것은 기억한다는 말의 따뜻함보다 정보가 나온 경로입니다. 같은 대화 안의 문장인지, 저장된 사용자 정보인지, 직접 제공한 문서인지 구분해 보세요. 제품마다 기억 기능과 설정이 다르므로 새 대화에서 답이 달라지는 것만으로 학습 여부를 단정하지 않습니다.

관계의 의미는 어디에서 생길까

기억을 활용한 답변이 반가웠다는 사람의 경험은 그 자체로 살펴볼 가치가 있습니다. 동시에 내가 느끼는 친밀감과 AI가 경험하는 친밀감은 별개의 질문입니다. 두 질문을 나누면 자신이 무엇에 편안함을 느끼는지 더 잘 설명할 수 있습니다.

어쩌면 우리가 원하는 것은 모든 문장의 영구 보관보다 중요한 순간을 적절히 짚어 주는 배려일 수도 있습니다. AI의 기억을 평가할 때에도 무엇을 저장하고 언제 불러오며 사용자가 어떻게 확인할 수 있는지가 유용한 기준이 됩니다.

자주 묻는 질문

대화를 기억하면 모델 자체가 계속 학습한 것일까요? 저장된 정보를 입력에 다시 넣는 방식도 있으므로 기억만으로 가중치 학습을 확인할 수는 없습니다.

기억 기능이 있으면 인격이 생긴 것일까요? 정보의 지속성은 인격을 논의할 한 재료가 될 수 있지만, 그것만으로 주관적 경험이나 도덕적 지위가 정해지지는 않습니다.

오늘의 질문: 상대가 나를 기억한다는 느낌은 정확한 사실, 적절한 순간, 따뜻한 표현 중 무엇에서 가장 크게 생기나요?

함께 읽기: LLM과 인간의 학습이 다른 지점