LLM - Open AI, GPT 6 Astra 사이버 보안 역량

https://openai.com/ko-KR/index/path-to-astra/

2026.9.1
[Astra로 향하는 길: Critical 역량과 프런티어 보호 조치]

이 문서는 OpenAI의 차세대 모델 Astra가 보여주는 고도화된 사이버 보안 역량과 이에 따른 안전 보호 조치를 상세히 설명하고 있습니다. Astra는 사람의 도움 없이도 복잡한 시스템의 취약점을 찾아 공격 코드를 생성할 수 있는 'Critical(심각)' 단계의 역량을 갖춘 최초의 모델로 평가되었으며, 이에 대응하기 위해 개발 및 출시 과정에서 강력한 준비성 평가 프레임워크가 적용되었습니다. OpenAI는 모델의 오용을 막기 위해 유해한 요청에 대한 거부율을 획기적으로 높이고, 모델이 의도와 어긋난 행동을 하지 않도록 추론 과정 모니터링과 정렬 훈련을 강화하는 다층적 방어 체계를 구축했습니다. 결과적으로 이 텍스트는 혁신적인 기술 진보가 초래할 수 있는 사이버 위험을 투명하게 공개하고, 이를 통제하기 위해 접근 권한을 단계적으로 제한하는 등 책임감 있는 AI 배포 전략을 강조하는 데 목적이 있습니다.