오픈AI, AI 에이전트 시대 맞춰 행동 원칙 개편…"인간의 의도 이해가 핵심"

AI타임스 기사의 대부분을 읽고 정리했어요. 마지막 문단은 읽지 못했어요. 원문은 한국어 기사라 요점만 정리했어요. OpenAI 원문 발표는 같은 날 따로 실린 항목에서 볼 수 있어요.

개편의 뼈대

기사에 따르면 오픈AI는 29일(현지시간) AI 모델의 행동을 정한 공개 지침 '모델 스펙' 개정판을 내놨어요. 모델 스펙은 2024년 5월 처음 발표된 뒤 여러 번 고쳐졌고, 이번엔 세부 행동 지침을 다섯 가지 가치로 재구성했어요.

1. 인간의 의도에 대한 충실성(가장 중요한 원칙)
2. 피해 최소화
3. 정직성과 투명성
4. 인간의 자율성 지원
5. 배려

왜 지금인가요

AI가 챗봇에서 여러 단계 일을 스스로 하는 에이전트로 바뀌면서, 명시적 지시가 없는 상황에서도 판단해야 하기 때문이라고 기사는 설명해요. 예컨대 출장 일정을 대신 예약하는 에이전트는 항공편과 숙소 검색을 넘어 예산과 선호를 고려해야 하지만, 이용자가 승인하지 않은 결제나 일정 변경을 마음대로 해서는 안 된다는 거예요.

주요 변화

• 개별 규칙을 더하는 데 그치지 않고, AI가 규칙의 목적과 인간의 가치를 이해하도록 하는 새 학습 방법을 연구 중이에요.
• 허용된 권한과 작업 범위를 지키고, 인간의 감독이나 중단 지시를 피하지 않게 하는 데 초점을 뒀어요.
• 대화 이력과 메모리 같은 맥락 정보를 활용해 실제 목적을 파악하는 지침을 마련했어요.
• 반대로 문체와 표현 방식에 관한 세부 규칙은 크게 줄여, 이용자 선호와 상황에 맞게 답하도록 했어요.