Project Swap: What happens when agents trade for us?

Project Swap: What happens when agents trade for us?

2026-10-03에 생성된 AI 리서치 아카이브입니다. 당시의 분석과 한계를 보존하며 현재 사실·가격·정책을 재검증한 글은 아닙니다.

이번 주 추천

Anthropic — “Project Swap: What happens when agents trade for us?”

• 발행: 2026년 9월 24일
• 무료 공개
• 주제: Agentic AI · 금융/시장 · 개인화 · AI 제품 설계
• 읽는 시간: 대략 15~20분

Anthropic 원문 읽기

이번 주에는 이 글을 추천드립니다. 단순한 AI 전망이나 의견이 아니라, AI agent가 실제로 사람을 대신해 시장에서 거래하면 어디에서 문제가 생기는지 실험으로 분리해 측정했다는 점이 좋습니다.

Anthropic은 직원 201명에게 책 한 권씩을 가져오게 한 뒤, Claude와 약 5분간 취향을 이야기하게 했습니다. 이후 각 사람을 대신하는 Claude agent들이 서로 협상하며 책을 교환했습니다. 출처

결과에서 가장 중요한 숫자는 **61%**입니다. 짧은 대화만으로 만든 agent의 선호 순위가 실제 사람의 선호 순위와 일치한 비율입니다. 무작위 선택의 50%보다는 낫지만, 사람을 대신해 중요한 결정을 맡기기에는 상당히 낮습니다. 출처

더 흥미로운 것은 실패 원인입니다.

이론적 최적 결과: 0.89
↓
Agent가 추정한 선호를 기준으로 가능한 최적 결과: 0.60
↓
실제 agent 간 협상 결과: 0.55

즉 최적 결과와 실제 결과 사이의 손실 중 약 85%가 협상 능력 때문이 아니라 “사람이 실제로 무엇을 원하는지 잘못 이해한 것” 때문에 발생했습니다. Agent들은 거래 자체는 비교적 잘했습니다. 문제는 mandate였습니다. 출처

금융 AI 관점에서 특히 중요한 이유

이 결과를 금융 agent에 그대로 대입하면 상당히 중요한 문제가 보입니다.

고객의 실제 의도
→ Agent가 이해한 투자 목적
→ 포트폴리오/추천
→ 주문·협상·리밸런싱

많은 금융 AI 논의는 뒤쪽에 집중합니다.

• 종목 선택을 얼마나 잘하는가
• 시장을 얼마나 잘 예측하는가
• 주문을 얼마나 잘 실행하는가
• Agent가 얼마나 자율적으로 움직이는가

그런데 Project Swap의 결과가 금융에서도 어느 정도 유지된다면, 오히려 가장 중요한 부분은 앞쪽일 수 있습니다.

“이 agent가 이 고객이 원하는 것을 정확하게 이해했는가?”

예를 들어 고객이 “수익률은 높이고 싶지만 너무 위험한 건 싫다”고 말하면, 사람에게는 자연스러운 문장이지만 agent에게는 거의 아무것도 정의되어 있지 않습니다.

최대 손실 -10%인지 -30%인지, 변동성이 문제인지 원금손실이 문제인지, 3개월 손실을 견딜 수 있는지, 세금과 유동성을 얼마나 중시하는지 등이 빠져 있습니다.

그래서 저는 향후 금융 agent의 핵심 구조가 단순히

Prediction → Recommendation → Execution

이 아니라

Preference elicitation → Mandate/constraints → Validation → Recommendation → Execution → Continuous preference update

가 될 가능성이 높다고 봅니다.

Anthropic도 비슷한 결론을 냅니다. 투자자문사나 브로커가 자격뿐 아니라 고객 정보를 충분히 파악해야 하는 것처럼, AI agent도 일반적인 competence test와 특정 고객을 제대로 이해했는지를 확인하는 별도의 test가 필요할 수 있다고 제안합니다. 출처

또 하나 재미있는 결과는 prompt보다 model capability가 더 중요했다는 것입니다. Haiku 기반 시장의 효율성은 0.75, Opus는 0.88이었고, 반면 “ruthless”와 “prosocial”이라는 행동 지침 차이는 약 0.02에 불과했습니다. 즉 간단한 personality/prompt tuning보다는 기본 모델의 reasoning 능력이 시장 행동에 훨씬 큰 영향을 미쳤습니다. 출처

다만 그대로 금융시장에 확대하면 안 됩니다

이 실험은 책, Anthropic 직원, Claude 모델만을 대상으로 했고 실제 돈이 걸려 있지 않았습니다. 악의적인 agent도 없었습니다. Anthropic 스스로 이 한계를 명시합니다. 출처

그래서 “Claude가 금융거래를 잘한다”는 증거는 전혀 아닙니다.

오히려 이 글의 중요한 결론은 반대쪽에 있습니다.

Agent가 점점 더 똑똑해져도, 사용자를 잘못 이해하면 더 효율적으로 잘못된 일을 할 수 있습니다.

지난번 추천드렸던 intent alignment 문제가 이번에는 작은 실제 시장 실험으로 측정되었다는 점에서, 이번 주 읽을거리 중에서는 특히 가치가 높다고 봅니다. 금융 agent나 Private Banker용 agent workflow를 설계한다면 저는 이 글의 **“representation before execution”**을 핵심 설계 원칙 중 하나로 가져가겠습니다.