샘 알트먼의 블로그 글 - Reflections(회고) 요약

1. AGI를 향한 여정
- 오픈AI는 약 9년 전 AGI 달성이 가능하며, 인류 역사상 가장 영향력 있는 기술이 될 것이라는 믿음으로 설립
- 초기 AGI에 대한 관심이 거의 없었고, 성공 가능성을 의심받았음. 22년 11월 챗GPT 출시 이후, AI 산업 전반에서 혁신적 성장의 전환점이 되었으며, 오픈AI는 급격한 성장 경험

2. 급성장과 도전
- 오픈AI는 새로운 기술을 중심으로 회사를 구축해야 했으며, 참고할 만한 사례나 가이드라인이 없는 상황에서 진행
- 빠른 속도로 성장하는 과정은 혼란스럽고 스트레스가 많았으며, 수많은 실수와 시행착오를 겪음
-지난 2년간 주간 활성 사용자 수는 1억 명에서 3억 명 이상으로 증가하며 압축된 시간 내 엄청난 변화 경험

3. 개인적 위기와 교훈
- 예기치 않게 오픈AI에서 해고된 사건을 언급하며, 혼란스럽고 충격적인 경험이었다고 회고
- 해당 사건을 통해 신뢰와 다양한 관점을 기반으로 한 강력한 거버넌스 시스템의 중요성을 깨달았다고 강조
- 위기 상황에서도 동료와 파트너들의 지원 덕분에 오픈AI는 안정성을 되찾고 강력한 조직으로 거듭날 수 있었음

4. 안전성과 점진적 배포
- AI 시스템의 안전성을 확보하기 위해 점진적이고 반복적인 배포가 중요하다고 강조. 이를 통해 사회가 기술에 적응하고 피드백을 제공하여 시스템을 개선할 수 있음
- 오픈AI는 안전과 정렬 연구를 선도하며, 실제 응용 사례에서 얻은 피드백을 활용해 연구를 발전

5. 미래: 초지능(Superintelligence)
- 2025년까지 AI 에이전트가 업무에 참여하여 기업 생산성에 실질적인 영향을 미칠 것으로 예상
- 오픈AI의 목표는 AGI를 넘어 초지능 개발로 확장되고 있으며, 이는 과학적 발견과 혁신을 가속화하여 풍요와 번영을 증대시킬 잠재력을 가지고 있음

6. 감사와 결론
- 오픈AI 동료들, 위기 상황에서 도움을 준 파트너들(특히 론 콘웨이와 브라이언 체스키), 그리고 개인적으로 지지해준 사람들에게 깊은 감사를 전달
-앞으로도 기술 발전과 사회적 혜택을 극대화하기 위한 노력을 지속할 것이라고 다짐

https://blog.samaltman.com/reflections