LLM - 성능 - 최적화 - OpenAI의 ChatGPT를 위한 PostgreSQL 확장 전략

https://openai.com/index/scaling-postgresql/

https://www.infoq.com/news/2026/02/openai-runs-chatgpt-postgres/

 

OpenAI가 ChatGPT의 폭발적인 성장을 뒷받침하기 위해 단일 주 데이터베이스(Single Primary Instance) 환경에서 PostgreSQL을 어떻게 수만 대의 기기 수준으로 확장했는지 그 기술적 여정을 다룹니다. 시스템 부하가 10배 이상 증가함에 따라, 이들은 전 세계에 분산된 약 50개의 읽기 전용 복제본(Read Replicas)과 카스케이딩 복제 방식을 도입하여 낮은 지연 시간을 유지하는 데 성공했습니다. 또한 쓰기 작업의 압박을 줄이기 위해 관계형 데이터가 불필요한 작업은 샤딩된 시스템인 Azure Cosmos DB로 이전하고, 애플리케이션 계층에서 쿼리를 최적화하는 등 하이브리드 전략을 취했습니다. 결과적으로 이 텍스트는 단일 기본 노드의 한계를 극복하기 위한 운영 가드레일과 연결 풀링, 그리고 데이터베이스 부하 분산의 구체적인 설계 방법론을 제시하는 데 목적이 있습니다.