컴퓨터 유즈의 안전은 모델 밖에서도 만들어야 한다
GPT‑6 Astra처럼 브라우저와 데스크톱을 조작하는 모델은 답변 오류를 실제 계정과 데이터의 변경으로 이어지게 할 수 있습니다. OpenAI의 공식 컴퓨터 유즈 지침은 실행 환경을 격리하고, 접근 가능한 사이트와 행동을 허용 목록으로 제한하며, 화면·문서·도구 결과를 신뢰할 수 없는 입력으로 취급하라고 안내합니다.
특히 구매, 개인정보나 파일 전송, 삭제와 같이 되돌리기 어려운 행동은 사용자가 실행 직전에 확인해야 합니다. 폼에 민감한 정보를 입력하는 것도 데이터 전송으로 봐야 합니다. 실행에는 단계·시간·비용 상한과 취소 수단을 두고, 마지막 모델 답변이 아니라 실제 애플리케이션 상태를 확인해야 합니다.
Astra의 오정렬 감시는 무엇을 하는가
오정렬 감시는 에이전트가 민감 데이터 접근·전송이나 파괴적 변경처럼 결과가 큰 상황에서 사용자 지시를 올바르게 해석하는지 비동기로 검토합니다. 잠재적 문제가 발견되면 대화를 중단하거나 프로젝트 안전 알림을 만들 수 있습니다.
Responses API에서 persisted reasoning, WebSocket 또는 OpenAI compaction으로 대화 맥락을 유지하면 시스템이 후속 실행을 차단할 수 있습니다. 이 장치가 없는 Responses 요청은 알림을 받을 수 있지만 자동 중단이 되지 않을 수 있으며, Chat Completions 요청은 이 감시 범위에 포함되지 않습니다.
중단은 되돌리기가 아니다
감시는 비동기로 동작하므로 문제를 발견하기 전에 행동이 완료될 수 있습니다. 중단된 요청은 앞선 변경을 되돌리지 않으며 일반적인 재개 방법도 제공하지 않습니다. 알림은 검토 신호이지 위반이나 오정렬이 확정됐다는 판정도 아닙니다. 정상 활동을 표시하거나 문제를 놓칠 수 있습니다.
운영자는 감시 알림만 믿지 말고, 전송·결제·삭제 전 승인 게이트, 실행 로그, 멱등성 키, 롤백 가능한 작업 설계와 사후 상태 검증을 유지해야 합니다. Astra 시대의 안전은 “모델이 조심한다”가 아니라 행동 범위를 좁히고 결과가 큰 경계에서 사람이 결정하는 구조입니다.