오픈AI의 개발자 문화 (번역)

*지금 세계에서 가장 핫한 ‘스타트업’. 오픈AI의 개발자가 직접 말하는 그들의 문화를 소개합니다.

저는 2024년 5월 입사했던 오픈 AI를 3주 전에 떠났습니다.

오픈AI에 대한 말과 소문은 무성하지만, 정작 그곳에서 일하는 문화가 실제로 어떤지는 1차 경험담이 많지 않기에, 제 소회를 공유하고자 합니다.

나빌 쿠레시(Nabeel Quereshi)가 쓴 〈팔란티어에서의 회고Reflections on Palantir〉라는 훌륭한 글이 있는데, 그는 팔란티어(Palantir)를 특별하게 만든 요소를 곱씹더군요. 기억이 생생할 때 저도 오픈AI에 대해서도 같은 작업을 해보고 싶었습니다.

영업 비밀은 담고 있지 않습니다. 그저 역사상 가장 매혹적인 조직 중 하나가 가장 흥미로운 시기에 어떤 모습인지에 대한 제 단상만 담았습니다.

참고로 밝히자면, 제가 떠나기로 한 결정에는 개인적인 사연 같은 건 전혀 없었습니다. 오히려 상당히 갈등했죠. 그저 직접 무언가를 창업해봤던 사람이 3,000명 규모가 되어버린 조직의 직원으로 일하는 건 쉽지 않았습니다. 지금은 새로운 출발이 간절할 따름입니다.

오픈AI에서의 몰입감이 다시 저를 끌어들일 가능성도 충분히 있습니다. AGI만큼 임팩트 있는 무언가를 만든다는 건 상상하기 어렵고, LLM은 단연코 지난 10년의 기술 혁신이니까요. 그 발전을 직접 목격하고 Codex 출시에도 참여할 수 있었던 건 큰 행운이었습니다.

마지막으로 이 글은 회사의 공식 입장이 아닙니다. 제 개인적인 관찰이고 기록일 뿐입니다. 오픈AI는 거대한 조직이고, 저는 제 작은 창을 통해 그 조직을 바라봤으니까요.

문화(Culture)

오픈AI에 관해 가장 먼저 알아야 할 점은 속도입니다. 제가 합류했을 때 회사는 1,000명 조금 넘는 규모였는데, 1년 뒤에는 3,000명을 넘었고 (고작 1년 일한) 제가 근속 기간으로 상위 30% 안에 들었습니다. 리더십에 있는 거의 모든 사람은 2~3년 전과는 완전히 다른 일을 하고 있습니다.¹

그렇게 빠르게 커지면 모든 것이 흩어져 있기 마련입니다. 회사 차원의 커뮤니케이션, 보고 구조, 제품 출시 방식, 인력 관리와 조직, 채용 프로세스 등등. 팀들마다 문화도 크게 다릅니다.

항상 전력 질주하는 팀도 있고, 대규모 학습을 도모하는 팀도 있으며, 훨씬 일정한 속도로 움직이는 팀도 있습니다. 단일한 오픈AI의 경험이란 없으며, 연구·개발·GTM은 서로 각각 전혀 다른 타임라인으로 움직입니다.

특이한 점 중 하나는 모든 것이, 진짜 모든 것이 Slack으로 돌아간다는 겁니다. 이메일이 없습니다. 근무 기간 동안 받은 이메일은 열 통 정도에 불과했습니다. 체계적으로 관리하지 않으면 무척 산만하게 느껴질 수 있지만, 채널과 알림을 잘 선별하면 꽤 쓸 만합니다.

오픈AI는, 특히 연구 쪽은, 믿을 수 없을 만큼 바텀업입니다. 처음 갔을 때 다음 분기 로드맵이 무엇인지 물었더니 돌아온 답은 “그런 건 없다”였습니다(지금은 생겼지만요).

좋은 아이디어는 어디서든 나올 수 있고, 어떤 아이디어가 결실을 맺을지는 미리 알기 어렵습니다. 거창한 마스터 플랜보다는 새로운 연구가 성과를 낼 때마다 애자일하게 진전됩니다.

이 바텀업 문화 덕분에 오픈AI는 매우 실력 지상주의이기도 합니다. 지금까지 회사 리더들은 좋은 아이디어를 내고 실행하는 능력을 기반으로 승진했습니다. 다른 회사였다면 중요했을 프레젠테이션 능력이나 정치적 수완이 여기서는 덜 중요합니다. 결국 최고의 실력이 이기는 분위기였습니다.²

실행이 중요합니다. 일단 해보는 문화입니다. 비슷하지만 서로 관련 없는 팀들이 같은 아이디어를 동시에 개발하기도 합니다. Codex 출시 전에도 3~4개의 다른 프로토타입이 떠돌았죠. 이런 시도는 보통 몇몇 사람이 허락도 받지 않고 시작하며, 가능성이 보이면 팀이 금세 꾸려집니다.

Codex 리더인 안드레이(Andrey)는 연구원들 본인들을 “미니 경영진”으로 생각해야 한다고 말하곤 했습니다. ‘지루하다’거나 ‘이미 풀렸다’고 여겨지면 들여다 보지도 않습니다.

훌륭한 연구 매니저는 엄청난 영향을 미치지만 동시에 큰 제약을 받습니다. 최고 매니저는 여러 연구 노력을 연결해 더 큰 모델 훈련으로 끌어옵니다. 뛰어난 PM들도 마찬가지죠.

제가 함께 일했던 ChatGPT의 관리자들(악셰이, 리조, 술만)은 세상 모든 상황을 통달한 듯한 느낌이었습니다.³ 대부분 비교적 간섭이 적었습니다. 대신 최고의 인재를 채용하고 성과를 위해 판을 깔아주려 애썼습니다.

오픈AI는 전략을 순식간에 바꿉니다. 세그먼트에서도 중시했던 부분인데, 새 정보를 얻으면 계획을 고집하기보다 필요한 일을 즉시 실행합니다. 지금의 구글이 그러지 않는 걸 보면, 이렇게 큰 회사가 아직도 이 정신을 유지한다는 건 놀라운 일입니다.

대신 회사 내부에서 엄청난 정보 통제를 따릅니다. 내부에서 아직 발표되지 않은 뉴스가 언론에 먼저 터지는 것도 자주 봤습니다. 트위터에서는 기능 출시 여부를 자동 체크하는 봇까지 돌아가죠. 그래서 오픈AI는 매우 비밀스러운 곳입니다. 매출·소비 금액 같은 수치는 특히 엄격히 보호됩니다.

또 오픈AI는 매사에 예상보다 훨씬 진지한 곳이기도 합니다. AGI를 구축한다는 목표, 수억 명이 의료 상담부터 치료까지 활용하는 제품, 세계 최대 무대에서의 경쟁… 메타, 구글, 앤트로픽의 동향을 면밀히 주시했고, 그들도 마찬가지였을 겁니다. 세계 주요 정부들 모두 이 분야를 예의주시합니다.

언론에서 오픈AI를 비판할지라도, 제가 만난 사람들은 모두 올바른 일을 하려 애썼습니다. 다만 오픈AI를 하나의 거대한 블록으로 보아선 안 됩니다. 저는 오픈AI를 로스앨러모스(Los Alamos)처럼 시작한 조직으로 봅니다. 과학자·공돌이들이 최첨단 과학을 탐구하던 그룹이 역사상 가장 바이럴한 소비자 앱을 우연히 만들었고, 이후 정부·기업에 판매하려는 야망을 키웠습니다. 근속 기간과 부서에 따라 목표와 시각이 크게 다릅니다.

제가 가장 높이 평가하는 점은 AI를 세상에 배포하는 데 있어 회사가 말뿐이 아니라 행동한다는 겁니다. 최첨단 모델은 연간 계약이 필요한 엔터프라이즈 티어에만 국한되지 않습니다. 누구나 로그인 없이 ChatGPT에 접속해 답을 얻을 수 있고, SOTA 모델도 곧바로 API에 올라와 스타트업이 활용할 수 있습니다.

안전에 대해서도, 예상한 것보다 훨씬 더 많은 노력이 투입됩니다. 실질적 위험(증오 발언, 학대, 정치 조작, 생물무기 제작, 자해, 프롬프트 인젝션)에 더 무게를 두지만, 이론적 위험을 연구하는 인력도 분명 존재합니다. 다만 대부분의 작업은 공개되지 않기에, 오픈AI가 이 부분을 더 투명하게 했으면 하는 바람은 있습니다.

다른 회사들이 취업 박람회에서 굿즈를 마구 나눠주는 것과 달리, 오픈AI는 직원들에게 굿즈를 거의 주지 않습니다… 대신 재고가 올라오면 주문할 수 있는 ‘드롭’이 있는데, 첫 드롭 때는 수요가 너무 많아 Shopify 스토어가 다운되기도 했습니다.

GPU 비용에 비하면 거의 모든 것이 반올림 오차 수준입니다. Codex 제품 일부 기능 하나가 세그먼트 인프라 전체와 같은 GPU 비용을 차지했을 정도죠.

오픈AI는 아마 제가 본 조직 중 가장 무시무시하게 야심으로 가득찬 곳일 겁니다. 세계 최고 소비자 앱을 가지고도 만족하지 않고, API·딥 리서치·하드웨어·코딩 에이전트·이미지 생성 등 수십 개 분야에서 최고를 두고 경쟁하려 합니다.

회사에서는 트위터를 매우 주의 깊게 봅니다. “이 회사는 트위터 바이브로 돌아간다”는 농담이 있을 정도죠. 사용량·유저 성장·리텐션 분석도 많지만, 분위기도 그만큼 중요합니다.

팀은 매우 유동적입니다. Codex 출시 때 숙련된 ChatGPT 엔지니어가 필요하다고 요청했더니, 다음 날 바로 두 명이 투입됐습니다. 분기별 계획이나 헤드카운트 재조정 같은 절차는 없었습니다.

그리고 리더십은 매우 존재감이 강하고, 매우 디테일한 지점까지 깊숙이 관여합니다. 샘 알트만을 비롯한 C레벨들은 수시로 슬랙에서 의견을 냅니다. 실무자에게 보이지 않는 리더 같은 건 없었습니다.

코드(Code)

오픈AI는 대부분 파이썬으로 이루어진 거대한 모노레포를 사용합니다(Rust 서비스가 늘어나고 Golang 서비스도 몇 개 있습니다). 파이썬을 작성하는 방식이 워낙 다양해 다소 기괴해 보이는 코드도 많습니다.

10년 차 구글 베테랑이 만든 라이브러리도 있고, 박사 학위를 막 마친 사람이 대충 만든 주피터 노트북도 만납니다. 거의 모든 것이 FastAPI와 Pydantic 위에서 돌아가지만, 대규모 스타일 가이드는 없습니다.

모든 것은 애저(Azure)에서 운영됩니다. 제가 믿을 만하다고 느낀 서비스는 Azure Kubernetes Service, CosmosDB, BlobStore 딱 세 가지뿐이었습니다. AWS에서 기대할 수 있는 IAM 기능도 제한적이고, 자체 구현을 선호하는 경향이 큽니다.

인력 측면에서 메타(Meta) → 오픈AI 전환이 상당하고, 인스타그램 출신 인프라 인재도 강력합니다. 그래서 인프라의 핵심 부분이 메타를 연상시킵니다. TAO 재구현, 엣지 인증 통합 같은 프로젝트도 있었죠.

Chat 개념은 코드베이스 깊숙이 박혀 있습니다. Codex에서는 조금 벗어나 응답 API 경험을 더 활용했지만, 기존 채팅 프리미티브를 무시하면 큰일 납니다.

중앙 협의체 같은 건 없고, 일을 하겠다고 나서는 팀이 의사결정을 내립니다. 그래서 중복 코드가 종종 생기지만, 실행 중심의 분위기라서 빠르게 전진합니다.

백엔드 모놀리식 sa-server는 다소 덤핑장이었고, CI가 예상보다 자주 깨져서 GPU에서 테스트만 30분씩 걸리곤 했습니다. 빠른 규모 확장이면 어디서나 생길 수 있는 문제들이죠. 현재 내부 팀이 개선에 집중하고 있습니다.

배운 것들(Other things I learned)

대형 소비자 브랜드가 어떻게 움직이는지: 모든 것이 ‘유료 구독자’ 수로 측정됩니다.
대형 모델을 훈련하는 흐름: 작은 실험 → 가능성이 보이면 베팅. 대규모 러닝은 거대한 분산 시스템 엔지니어링처럼 보입니다.
GPU-math 다루는 법: GPU 스펙보다 지연 요구사항(총 지연·토큰 수·첫 토큰까지 시간)에서 출발해야 합니다.
거대한 파이썬 코드베이스에서 일하는 방법: ‘기본 상태로 작동’, ‘마스터 브랜치 청결 유지’, ‘오용 어렵게’ 같은 가드레일이 필수입니다.

Codex 출시(Launching Codex)

최근 3개월 동안 가장 큰 일은 Codex 출시였습니다. 제 커리어에서 손꼽히는 하이라이트죠.

2024년 11월, 오픈AI는 2025년까지 코딩 에이전트를 출시하겠다는 목표를 세웠습니다. 2025년 2월엔 내부 도구 몇 개가 이미 큰 효과를 내고 있었고, 압박이 심했습니다. 저는 육아휴직을 조기 복귀해 Codex 런칭에 합류했습니다. 복귀 일주일 만에 두 팀이 (약간 혼란스럽게) 합병되었고 7주 만에 제품을 완성했습니다.

이 스프린트는 제 지난 10년의 커리어 중 가장 힘들게 일한 기간이었습니다. 밤 11시~자정까지 일하고, 새벽 5시 30분에 아기 때문에 일어나 다시 7시에 출근, 주말도 대부분 일했습니다. 한 주 한 주가 중요했죠.

컨테이너 런타임, 리포 다운로드 최적화, 코드 편집용 커스텀 모델 파인튜닝, git 연산, 인터넷 접속, 완전히 새로운 UI… 7주 만에 모두 해냈습니다.⁴ 오픈AI에는 여전히 ‘애자일 정신’이 살아 있죠.⁵

우리는 약 8명의 시니어 엔지니어, 4명의 연구원, 2명의 디자이너, 2명의 GTM, 1명의 PM으로 구성된 소수 정예 팀이었습니다. 출시는 새벽 4시까지 모놀리스를 배포하고, 아침 8시에 라이브스트림과 함께 플래그를 켜자마자 트래픽이 폭발했습니다.

Codex는 대형 코드베이스 탐색에 능숙하고, 여러 작업을 동시에 돌려 결과를 비교할 수 있다는 점이 큰 차별화였습니다. 출시 53일 만에 63만 PR을 생성했는데, 엔지니어당 7.8만 건꼴입니다. 제 인생에서 이렇게 임팩트 있는 작업은 처음이었습니다.

맺는말(Parting thoughts)

처음엔 오픈AI에 합류하기가 망설여졌습니다. 자유를 포기하고, 상사가 생기고, 훨씬 큰 기계의 작은 톱니가 되는 느낌이니까요. 그래도 얻고 싶었던 건 세 가지였습니다.

모델 훈련 직관과 능력 방향 파악
놀라운 사람들과 함께 일하며 배우기
훌륭한 제품을 출시하기

돌아보면 최고의 결정 중 하나였습니다.

창업자이신데 스타트업이 제자리걸음이라면, ① 골을 넣을 방법을 전면 재평가하시거나 ② 대형 연구소에 합류해 보시길 권합니다. 지금은 무언가를 만들기에도, 미래를 들여다보기도 놀라운 시기입니다.

제 관점에서 AGI로 가는 길은 현재 세 마리 경주마의 승부입니다: 오픈AI, 앤트로픽, 구글. 각자의 DNA(소비자 지향 vs 비즈니스 지향 vs 견고한 인프라+데이터)에 따라 다른 길을 갈 겁니다.⁶ 어느 곳에서 일하든 눈이 번쩍 뜨일 경험이 될 거예요.

마지막으로. 늦은 밤 동안 큰 지지를 보내며 육아를 거의 전담해 준 제 아내 리아(Leah)에게 감사드립니다. 기회를 준 PW, GDB, 리조에게도 감사하고, SA 팀 앤드류, 아눕, 빌, 콰즈, 밍, 사이먼, 토니, 밸에게도 고마움을 전합니다. 그리고 Codex 핵심 팀: 알빈, AE, 안드레이, 브라이언, 채닝, 데이비드K, 게이브, 글래드스톤, 한슨, 조이, 조쉬, 케이티, 케빈T, 맥스, 사브리나, SQ, 티보, TZ, 윌—평생 잊지 못할 여정을 만들어 주셔서 감사합니다.

붐!

¹ ~ ⁶ : 원문과 동일한 각주 표시입니다.

리더가 떠날 때마다 많은 드라마를 읽어내려는 시도가 쉽지만, 나는 그중 ~70%는 오로지 이 사실 하나 때문이라고 본다.
지금 우리는 약간의 단계 변화를 겪고 있다고 생각한다. 회사 외부에서 영입되는 시니어 리더십 채용이 상당히 많다. 나는 대체로 이에 찬성한다. 새로운 외부 DNA를 주입하면 회사가 큰 혜택을 얻는다고 본다.
역대 가장 빠르게 성장한 소비자용 제품을 스케일링하는 과정이 상당한 근력을 기른다는 느낌을 받는다.
물론 우리도 거인들의 어깨 위에 서 있었다. CaaS 팀, 코어 RL 팀, 휴먼 데이터, 일반 애플라이드 인프라가 이 모든 것을 가능하게 했다.
우리도 그걸 계속 이어갔다.
몇 주 전 메타(Meta)에서 굵직한 채용이 있었다. xAI는 Grok 4를 출시했는데 벤치마크에서 좋은 성능을 보인다. 미라(Mira)와 일리야(Ilya) 모두 뛰어난 인재다. 어쩌면 이것이 상황을 바꿀지도 모른다(사람들이 훌륭하다). 그들에겐 따라잡아야 할 과제가 있다.

원문: Calvin https://calv.info/openai-reflections
기획&편집: 뤽 (w/ 초벌 o3)

같이 보기

섹스, 맥주, 그리고 코딩: 페이스북의 광기어린 그 시절 (번역)

샘 알트먼이 그리는 OpenAI의 미래 – 서비스, BM, AGI에 대한 전략