open weights 의미

구글에서 Gemma라는 LLM을 공개했다고 하여 좀 살펴보게 됐는데, Gemma의 GitHub 페이지에 보면 다음과 같이 첫 소개글을 적고 있습니다. 

Gemma is a family of open-weights Large Language Model (LLM) by Google DeepMind, based on Gemini research and technology.

 

여기에 보면 open-weights 라는 표현을 쓰고 있습니다. 설마 격투기의 무제한 급을 의미하지는 않았을테고, 무슨 뜻으로 적은 것인가 하여 좀 찾아 보니 다음과 같은 좋은 글을 찾을 수 있었습니다.

https://promptengineering.org/llm-open-source-vs-open-weights-vs-restricted-weights/

Openness in Language Models: Open Source vs Open Weights vs Restricted Weights

간단히 얘기하면, 다음과 같이 정리할 수 있습니다

• open source model: 만드는 법, 모델 구조, 사용한 데이터 등 모델과 관련된 대부분의 내용을 공개하여 공유하는 것
• open weights model: 만드는 법, 모델 구조, 사용한 데이터 제반 내용 모두를 공개하지 않고 완성된 모델(결국 모델안의 가중치값들이어서 weights라는 용어 사용)만을 공유하는 것

LLM 공개 추세에 맞는 적절한 조어라는 생각이 듭니다.

여담으로 open source의 경우 한국어로는 영어 그대로 오픈 소스라고 하고 있는데, open weights도 그대로 오픈 웨이트 같은 형태로 사용하고 있나 검색을 좀 해 봤지만 찾을 수가 없었습니다. 만들어진지 얼마 안 된 용어여서 그렇지 않을까 싶습니다.