마크 주커버그 “오픈 소스 AI가 앞으로 나아갈 길입니다.”

 2024년 7월 23일

 마크 저커버그, 창립자 겸 CEO

 고성능 컴퓨팅의 초창기에, 당시 주요 기술 기업들은 각자 독자적인 클로즈드 소스 유닉스 버전 개발에 막대한 투자를 했습니다. 당시에는 이러한 고급 소프트웨어를 개발할 수 있는 다른 접근 방식을 상상하기 어려웠죠. 하지만 결국 오픈 소스 리눅스가 인기를 얻게 되었습니다. 처음에는 개발자들이 원하는 대로 코드를 수정할 수 있고 비용이 저렴했기 때문이었고, 시간이 지나면서 더 발전되고, 더 안전해졌으며, 어떤 클로즈드 유닉스보다 더 광범위한 기능을 지원하는 생태계를 갖추게 되었기 때문입니다. 오늘날 리눅스는 클라우드 컴퓨팅과 대부분의 모바일 기기를 구동하는 운영 체제의 산업 표준 기반이 되었고, 우리 모두가 이로 인해 더 우수한 제품의 혜택을 누리고 있습니다.

 AI도 비슷한 방식으로 발전할 것이라고 믿습니다. 현재 여러 기술 기업들이 선도적인 클로즈드 모델을 개발하고 있습니다. 하지만 오픈 소스가 빠르게 그 격차를 좁혀가고 있습니다. 작년에 Llama 2는 최첨단에서 뒤처진 구세대 모델들과 비교될 만한 수준이었습니다. 올해 Llama 3는 가장 발전된 모델들과 경쟁력을 갖추었고 일부 영역에서는 선두를 달리고 있습니다. 내년부터는 미래의 Llama 모델들이 업계에서 가장 발전된 모델이 될 것으로 예상합니다. 하지만 그 전에도 Llama는 이미 개방성, 수정 가능성, 비용 효율성 면에서 선두를 달리고 있습니다.

 오늘 우리는 오픈 소스 AI가 업계 표준이 되는 방향으로 다음 단계를 밟고 있습니다. 우리는 최초의 최첨단 수준의 오픈 소스 AI 모델인 Llama 3.1 405B를 출시하고 있으며, 새롭고 개선된 Llama 3.1 70B와 8B 모델도 함께 선보입니다. 클로즈드 모델들에 비해 비용 대비 성능이 크게 향상되었을 뿐만 아니라, 405B 모델이 오픈 소스라는 사실은 이 모델을 더 작은 모델들의 파인튜닝과 디스틸레이션에 최적의 선택지로 만들 것입니다.

 이러한 모델들의 출시를 넘어, 우리는 더 넓은 생태계를 성장시키기 위해 다양한 기업들과 협력하고 있습니다. 아마존, Databricks, NVIDIA는 개발자들이 자체 모델을 파인튜닝하고 디스틸레이션할 수 있도록 지원하는 종합 서비스를 출시하고 있습니다. Groq와 같은 혁신 기업들은 모든 새로운 모델에 대해 낮은 지연 시간과 낮은 비용의 추론 서비스를 구축했습니다. 이 모델들은 AWS, Azure, Google, Oracle 등 주요 클라우드에서 모두 사용할 수 있을 것입니다. Scale.AI, Dell, Deloitte 등의 기업들은 기업들이 Llama를 도입하고 자체 데이터로 맞춤형 모델을 훈련할 수 있도록 지원할 준비가 되어 있습니다. 커뮤니티가 성장하고 더 많은 기업들이 새로운 서비스를 개발함에 따라, 우리는 함께 Llama를 업계 표준으로 만들고 AI의 혜택을 모두에게 가져다 줄 수 있습니다.

 Meta는 오픈 소스 AI에 전념하고 있습니다. 오픈 소스가 여러분에게 최고의 개발 스택인 이유, Llama를 오픈 소스화하는 것이 Meta에 좋은 이유, 그리고 오픈 소스 AI가 세계에 좋은 이유, 따라서 장기적으로 지속될 플랫폼이 될 이유를 설명하겠습니다.

 ## 오픈 소스 AI가 개발자들에게 좋은 이유

 전 세계의 개발자, CEO, 정부 관계자들과 대화를 나눌 때 주로 듣는 몇 가지 주제가 있습니다:

 1. 우리는 자체 모델을 훈련하고, 파인튜닝하고, 디스틸레이션해야 합니다. 모든 조직은 각기 다른 요구 사항을 가지고 있어, 특정 데이터로 훈련되거나 파인튜닝된 다양한 크기의 모델이 필요합니다. 온디바이스 작업과 분류 작업에는 작은 모델이 필요하고, 더 복잡한 작업에는 더 큰 모델이 필요합니다. 이제 여러분은 가장 발전된 Llama 모델을 가져와 자체 데이터로 계속 훈련하고 최적의 크기의 모델로 디스틸레이션할 수 있습니다 - 우리나 다른 누구도 여러분의 데이터를 볼 수 없습니다.

 2. 우리는 자체 운명을 통제하고 클로즈드 벤더에 묶이지 않아야 합니다. 많은 조직들은 자신들이 실행하고 제어할 수 없는 모델에 의존하고 싶어 하지 않습니다. 그들은 클로즈드 모델 제공자들이 모델을 변경하거나, 사용 조건을 바꾸거나, 심지어 완전히 서비스를 중단하는 것을 원치 않습니다. 또한 모델에 대한 독점적 권리를 가진 단일 클라우드에 묶이는 것도 원치 않습니다. 오픈 소스는 호환 가능한 도구 체인을 가진 광범위한 기업 생태계를 가능하게 하며, 여러분은 이들 사이를 쉽게 이동할 수 있습니다.

 3. 우리는 데이터를 보호해야 합니다. 많은 조직들은 보안을 유지해야 하는 민감한 데이터를 다루며, 이를 클라우드 API를 통해 클로즈드 모델에 보낼 수 없습니다. 다른 조직들은 단순히 클로즈드 모델 제공자들을 데이터와 함께 신뢰하지 않습니다. 오픈 소스는 여러분이 원하는 곳에서 모델을 실행할 수 있게 함으로써 이러한 문제들을 해결합니다. 오픈 소스 소프트웨어가 더 투명하게 개발되기 때문에 더 안전한 경향이 있다는 것은 잘 알려진 사실입니다.

 4. 우리는 효율적이고 경제적으로 실행할 수 있는 모델이 필요합니다. 개발자들은 자체 인프라에서 Llama 3.1 405B의 추론을 실행할 때, 사용자 대면 및 오프라인 추론 작업 모두에서 GPT-4o와 같은 클로즈드 모델을 사용하는 것보다 약 50% 저렴한 비용으로 실행할 수 있습니다.

 5. 우리는 장기적으로 표준이 될 생태계에 투자하고 싶습니다. 많은 사람들이 오픈 소스가 클로즈드 모델보다 더 빠른 속도로 발전하고 있음을 인식하고 있으며, 장기적으로 가장 큰 이점을 줄 아키텍처 위에 자신들의 시스템을 구축하고 싶어 합니다.

 ## 오픈 소스 AI가 Meta에 좋은 이유

 Meta의 비즈니스 모델은 사람들을 위한 최고의 경험과 서비스를 구축하는 것입니다. 이를 위해서는 항상 최고의 기술에 접근할 수 있어야 하며, 경쟁사의 클로즈드 생태계에 갇혀 우리가 구축할 수 있는 것을 제한받지 않도록 해야 합니다.

 제가 겪은 가장 교훈적인 경험 중 하나는 Apple이 자사 플랫폼에서 우리가 구축할 수 있는 것을 제한하는 상황에서 서비스를 구축한 것입니다. 그들이 개발자들에게 세금을 부과하는 방식, 그들이 적용하는 임의적인 규칙들, 그리고 그들이 차단하는 모든 제품 혁신들을 고려하면, Meta와 다른 많은 회사들이 우리 제품의 최고 버전을 구축할 수 있고 경쟁사들이 우리가 구축할 수 있는 것을 제한할 수 없다면 사람들을 위해 훨씬 더 나은 서비스를 구축할 수 있다는 것이 분명합니다. 철학적인 수준에서, 이것이 제가 다음 세대의 컴퓨팅을 위해 AI와 AR/VR에서 개방된 생태계를 구축하는 것을 그토록 강력히 믿는 주요 이유입니다.

 사람들은 종종 Llama를 오픈 소스화함으로써 기술적 이점을 포기하는 것에 대해 걱정하지 않느냐고 묻습니다. 하지만 저는 이것이 큰 그림을 놓치고 있다고 생각합니다. 몇 가지 이유를 들어보겠습니다:

 첫째, 장기적으로 최고의 기술에 접근할 수 있고 클로즈드 생태계에 갇히지 않도록 하기 위해서는, Llama가 도구, 효율성 개선, 실리콘 최적화, 그리고 기타 통합의 완전한 생태계로 발전해야 합니다. 만약 우리가 Llama를 사용하는 유일한 회사라면, 이 생태계는 발전하지 않을 것이고 우리는 클로즈드 유닉스 변형들보다 나을 것이 없을 것입니다.

 둘째, AI 개발은 계속해서 매우 경쟁적일 것으로 예상되며, 이는 특정 시점의 주어진 모델을 오픈 소스화하는 것이 그 시점의 차선 모델들에 비해 막대한 이점을 제공하는 것은 아니라는 뜻입니다. Llama가 업계 표준이 되기 위한 경로는 세대를 거듭하며 지속적으로 경쟁력 있고, 효율적이며, 개방적이어야 한다는 것입니다.

 셋째, Meta와 클로즈드 모델 제공자들 사이의 주요 차이점은 AI 모델에 대한 접근권을 판매하는 것이 우리의 비즈니스 모델이 아니라는 점입니다. 이는 Llama를 공개적으로 출시하는 것이 클로즈드 제공자들과는 달리 우리의 수익, 지속 가능성, 또는 연구에 투자할 수 있는 능력을 저해하지 않는다는 것을 의미합니다. (이는 여러 클로즈드 제공자들이 지속적으로 정부에 오픈 소스에 반대하는 로비를 하는 이유 중 하나입니다.)

 마지막으로, Meta는 오픈 소스 프로젝트와 성공의 긴 역사를 가지고 있습니다. 우리는 Open Compute Project를 통해 서버, 네트워크, 데이터 센터 설계를 공개하고 공급망이 우리의 설계를 표준화하도록 함으로써 수십억 달러를 절약했습니다. 우리는 PyTorch, React, 그리고 다른 많은 도구들을 오픈 소스로 공개함으로써 생태계의 혁신으로부터 이익을 얻었습니다. 이러한 접근 방식은 우리가 장기적으로 이를 고수할 때 일관되게 효과를 발휘했습니다.

 ## 오픈 소스 AI가 세계에 좋은 이유

 저는 오픈 소스가 긍정적인 AI 미래를 위해 필요하다고 믿습니다. AI는 다른 어떤 현대 기술보다도 인간의 생산성, 창의성, 삶의 질을 향상시키고 경제 성장을 가속화하면서 의학 및 과학 연구의 진전을 이끌어낼 잠재력이 더 큽니다. 오픈 소스는 전 세계의 더 많은 사람들이 AI의 혜택과 기회에 접근할 수 있도록 보장하고, 소수의 기업들에게 권력이 집중되는 것을 방지하며, 기술이 사회 전반에 더 균등하고 안전하게 배포될 수 있도록 할 것입니다.

 오픈 소스 AI 모델의 안전성에 대한 지속적인 논쟁이 있지만, 제 견해로는 오픈 소스 AI가 대안들보다 더 안전할 것입니다. 저는 정부들이 오픈 소스를 지지하는 것이 자국의 이익에 부합한다는 결론을 내릴 것이라고 생각합니다. 왜냐하면 이는 세계를 더 번영하고 안전하게 만들 것이기 때문입니다.

 안전성을 이해하기 위한 제 프레임워크는 우리가 두 가지 범주의 해악으로부터 보호해야 한다는 것입니다: 의도하지 않은 해악과 의도적인 해악입니다. 의도하지 않은 해악은 AI 시스템을 운영하는 사람들의 의도와 무관하게 해를 끼칠 수 있는 경우입니다. 예를 들어, 현대의 AI 모델들이 실수로 잘못된 건강 조언을 할 수 있습니다. 또는 더 미래지향적인 시나리오에서는, 모델들이 의도치 않게 자가 복제하거나 인류에게 해로운 방식으로 목표를 과도하게 최적화할 수 있다는 우려가 있습니다. 의도적인 해악은 악의적인 행위자가 해를 끼칠 목적으로 AI 모델을 사용하는 경우입니다.

 주목할 만한 점은 의도하지 않은 해악이 AI에 대한 대부분의 우려를 포괄한다는 것입니다 - 수십억 명의 사람들이 사용할 AI 시스템들이 미칠 영향부터 인류에 대한 진정으로 재앙적인 과학 소설적 시나리오에 이르기까지 말입니다. 이 측면에서 오픈 소스는 시스템이 더 투명하고 광범위하게 조사될 수 있기 때문에 상당히 더 안전할 것입니다. 역사적으로 오픈 소스 소프트웨어가 이러한 이유로 더 안전했습니다. 마찬가지로, Llama Guard와 같은 안전 시스템을 갖춘 Llama를 사용하는 것이 클로즈드 모델들보다 더 안전하고 보안성이 높을 것입니다. 이러한 이유로, 오픈 소스 AI 안전성에 대한 대부분의 논의는 의도적인 해악에 초점을 맞추고 있습니다.

 우리의 안전 프로세스에는 모델들이 의미 있는 해를 끼칠 수 있는지 평가하기 위한 엄격한 테스트와 레드팀 활동이 포함되어 있으며, 출시 전에 위험을 완화하는 것을 목표로 합니다. 모델들이 개방되어 있기 때문에, 누구나 직접 테스트해볼 수 있습니다. 우리는 이 모델들이 이미 인터넷에 있는 정보로 훈련된다는 점을 명심해야 합니다. 따라서 해악을 고려할 때 출발점은 모델이 Google이나 다른 검색 결과에서 빠르게 검색할 수 있는 정보보다 더 많은 해를 facilitation하는지 여부가 되어야 합니다.

 의도적인 해악에 대해 추론할 때, 개인이나 소규모 행위자들이 할 수 있는 것과 막대한 자원을 가진 국가와 같은 대규모 행위자들이 할 수 있는 것을 구분하는 것이 도움이 됩니다.

 미래의 어느 시점에는, 개별 악의적 행위자들이 인터넷에서 얻을 수 있는 정보를 이용해 AI 모델의 지능을 활용하여 완전히 새로운 해악을 만들어낼 수 있을지도 모릅니다. 이 시점에서 힘의 균형이 AI 안전성에 중요해질 것입니다. 저는 AI가 널리 배포되어 더 큰 행위자들이 더 작은 악의적 행위자들의 힘을 견제할 수 있는 세상에서 사는 것이 더 나을 것이라고 생각합니다. 이는 우리가 소셜 네트워크의 보안을 관리하는 방식입니다 - 우리의 더 강력한 AI 시스템들이 종종 더 작은 규모의 AI 시스템을 사용하는 덜 정교한 행위자들의 위협을 식별하고 차단합니다. 더 넓게 보면, 대규모로 AI를 배포하는 더 큰 기관들이 사회 전반의 보안과 안정성을 증진시킬 것입니다. 모든 사람이 유사한 세대의 모델들에 접근할 수 있는 한 - 오픈 소스가 이를 촉진합니다 - 더 많은 컴퓨팅 자원을 가진 정부와 기관들이 더 적은 컴퓨팅 자원을 가진 악의적 행위자들을 견제할 수 있을 것입니다.

 다음 질문은 미국과 민주주의 국가들이 중국과 같은 막대한 자원을 가진 국가들의 위협을 어떻게 다루어야 하는가입니다. 미국의 강점은 분산화되고 개방된 혁신에 있습니다. 일부 사람들은 중국이 우리의 모델에 접근하는 것을 막기 위해 모델들을 폐쇄해야 한다고 주장하지만, 제 견해로는 이는 효과가 없을 뿐만 아니라 미국과 그 동맹국들에게 불이익만 줄 것입니다. 우리의 적들은 첩보 활동에 뛰어나고, 엄지 드라이브에 들어가는 모델을 훔치는 것은 상대적으로 쉬우며, 대부분의 기술 회사들은 이를 더 어렵게 만드는 방식으로 운영되지 않습니다. 오직 클로즈드 모델만 있는 세상은 결국 소수의 대기업들과 우리의 지정학적 적들만이 선도적인 모델들에 접근할 수 있고, 스타트업, 대학, 중소기업들은 기회를 놓치게 되는 결과를 낳을 가능성이 가장 높아 보입니다. 게다가 미국의 혁신을 클로즈드 개발로 제한하면 우리가 전혀 선도하지 못할 가능성이 높아집니다. 대신, 저는 우리의 최선의 전략은 강력한 개방형 생태계를 구축하고 우리의 선도적인 기업들이 정부 및 동맹국들과 긴밀히 협력하여 최신 발전을 최대한 활용하고 장기적으로 지속 가능한 선점자 이점을 확보하는 것이라고 생각합니다.

 앞으로의 기회들을 고려할 때, 오늘날의 선도적인 기술 기업들과 과학 연구의 대부분이 오픈 소스 소프트웨어 위에 구축되어 있다는 점을 기억하세요. 다음 세대의 기업들과 연구는 우리가 집단적으로 투자한다면 오픈 소스 AI를 사용할 것입니다. 여기에는 이제 막 시작하는 스타트업뿐만 아니라 처음부터 최첨단 AI를 개발할 자원이 없을 수 있는 대학들과 국가들의 사람들도 포함됩니다.

 결론적으로, 오픈 소스 AI는 이 기술을 활용하여 모두를 위한 가장 큰 경제적 기회와 안전을 창출할 수 있는 세계 최고의 기회를 나타냅니다.

 ## 함께 만들어갑시다

 과거의 Llama 모델들에서, Meta는 자체적으로 개발한 후 출시했지만 더 넓은 생태계를 구축하는 데에는 많은 초점을 두지 않았습니다. 이번 출시에서는 다른 접근 방식을 취하고 있습니다. 우리는 가능한 한 많은 개발자들과 파트너들이 Llama를 사용할 수 있도록 내부적으로 팀을 구성하고 있으며, 생태계의 더 많은 기업들이 고객들에게 고유한 기능을 제공할 수 있도록 적극적으로 파트너십을 구축하고 있습니다.

 저는 Llama 3.1 출시가 업계의 변곡점이 될 것이라고 믿습니다. 대부분의 개발자들이 주로 오픈 소스를 사용하기 시작할 것이며, 이러한 접근 방식은 앞으로 더욱 성장할 것으로 예상합니다. 여러분이 전 세계 모든 사람에게 AI의 혜택을 가져다주는 이 여정에 동참해 주시기를 바랍니다.

 지금 llama.meta.com에서 모델들에 접근할 수 있습니다.

 화이팅!

 MZ

 https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/