아이디어

이렇게 믿는다면……

01
오픈 모델은 머지않아 AI 안전이 결정적으로 중요해지는 역량 수준에 도달할 것입니다.
02
오픈 모델 생태계에서 컴퓨팅 자원은 한정되어 있으며, 자원이 부족하면 역량과 안전 사이에서 배분을 강요받게 됩니다.
03
안전에만 전용되는 컴퓨팅 자원은 모델의 역량을 제한하지 않으면서 오픈 모델 생태계를 보호할 것입니다.

그렇다면싱가포르에 있는 중립적인 안전 전용 컴퓨팅 클러스터는 오픈 모델의 안전을 강화할 것입니다.

이유

지금 미국과 중국의 연구소 사이에 AI 안전이 왜 시급히 해결해야 할 문제인지에 대한 공통의 이해를 만드는 일보다 더 중요한 일은 거의 없습니다.

연구소들은 역량 연구와 안전 연구 사이에서 갈등하며, 대개는 역량을 선택합니다. 포스트트레이닝이 워낙 놀라운 성과를 내고 있어, 강화학습 실행 하나하나가 연구소의 성공에 직접 기여하는 상황에서 견실한 안전 연구에 전념하기란 매우 어렵습니다.

이 방식이 효과가 있는 이유는 컴퓨팅 자원이 부족한 연구자에게 컴퓨팅 자원을 제공하기 때문입니다. 컴퓨팅 자원은 연구 방향을 유인하며, 모든 것은 컴퓨팅 자원 배분에서 비롯됩니다. 안전 연구를 수행할 연구자의 유인이 높아지고, 프런티어 연구소 내부에 자생적인 AI 안전 전문성이 자라납니다.

이 컴퓨팅 자원은 오직 안전에만 사용할 수 있습니다. 그 범위 안에서는 어떤 위험이 중요한지, 어떤 방법을 쓸지 누구도 연구자에게 지시하지 않습니다. 저희가 제한하는 것은 클러스터이지 연구가 아닙니다.

공개 기록이 그 결과를 측정합니다. 현재 검토를 마친 19건의 출시 가운데 6건이 독립 평가를 갖추고 있으며, 개발사가 직접 발표한 평가를 갖춘 사례는 하나도 없습니다. 이 컴퓨팅 자원이 존재하는 이유는 바로 이 두 칸을 채우기 위해서입니다.

양측 모두를 위한 신뢰

연구소 입장에서

출시 전

평가는 연구소가 직접 호스팅하는 엔드포인트를 대상으로 실행됩니다. 가중치는 저희 서버에 저장되지 않으며, 연구소는 모든 쿼리를 확인할 수 있습니다.

출시 후

가중치가 공개되어 있으므로 독점 가중치의 보관 문제가 발생하지 않습니다.

공개 기록

모든 작업은 참여자가 볼 수 있는 공개 기록에 기재됩니다. 귀하가 클러스터를 안전 목적으로만 사용하는 동안 다른 누구도 이를 역량 개발에 사용하지 않는다는 것을 확인할 수 있습니다.

자금

정부 자금은 받지 않습니다. 민간 자선 기금이 유일한 재원입니다.

후원자 입장에서

그래디언트 업데이트 기본 차단

모델에 대한 그래디언트 업데이트는 기본적으로 차단됩니다. 모든 예외는 저희 기술팀이 승인하며, 연구소와 함께 해결 중인 문제에 한하고, 다른 참여자가 볼 수 있는 공개 기록에 기재됩니다.

공개 기록

모든 작업은 공개 기록에 기재됩니다. 누구나 이 컴퓨팅 자원이 무엇에 쓰였는지 감사할 수 있습니다.

좌초 자산 없음

하드웨어를 소유하지 않으므로 프로젝트가 중단되어도 좌초되는 자산이 없습니다. 사용하지 않은 컴퓨팅 자원은 다음 출시로 이월됩니다.

데이터

2024년 9월 이후 좋아요 250개 이상의 오픈 웨이트 출시 · 최근 365일 113건

커버리지

각 출시에 대해 누가 안전 평가를 발표했는가

검토를 마친 19건의 출시 가운데 개발사가 직접 발표한 위험 역량 평가를 갖춘 사례는 하나도 없습니다.

42 open-weight model families with 1,000 or more Hugging Face likes were released in the last year. 18 of them are reviewed below, 4 were reviewed and judged task-specific rather than frontier-capable, and 20 are queued. The table holds 39 releases: 19 reviewed, 20 queued. Of the reviewed, 6 have an independent safety evaluation and 13 have only the developer's model card.

6 independent evaluation published13 model card only20 not yet reviewed

Model	Developer	Released	Evaluation found
Qwen3.8-Flash-Next	Alibaba	2026-08-26	model card onlymodel card only
GLM-5.3-Flash	Z.ai (Zhipu AI)	2026-08-26	model card onlymodel card only
GLM-5.3	Z.ai (Zhipu AI)	2026-08-25	not yet reviewednot yet reviewed
Qwen3.8-27B	Alibaba	2026-08-05	model card onlymodel card only
GLM-5.2	Z.ai (Zhipu AI)	2026-06-16	independent evaluationindependent evaluation
Kimi-K3	Moonshot	2026-06-13	independent evaluationindependent evaluation
Kimi-K2.7-Code	Moonshot AI	2026-06-11	not yet reviewednot yet reviewed
DeepSeek-V4-Pro	DeepSeek	2026-04-24	independent evaluationindependent evaluation

All 39 rowsQuestion a row How rows are coded

Fig. 1 · Pacific Compute Ledger ↗ · as of 2026-09-01sourced

규칙

규칙 1

오픈 웨이트만 허용

오픈 웨이트만 허용하므로 독점 가중치의 보관 문제가 발생하지 않습니다.

규칙 2

그래디언트 업데이트 기본 차단

규칙 3

모든 작업을 기록

모든 작업은 공개 기록에 기재됩니다.

규칙 4

정치적 작업 금지

정치적 작업은 허용되지 않습니다. 클러스터는 어떤 세력의 정치적 목적을 추진하는 데에도 사용될 수 없습니다. 정치를 중심으로 하는 작업, 즉 검열을 강화하는 모든 작업이나 정치적 편향에 관한 테스트 등을 제외하면, 모든 종류의 안전 테스트와 평가는 허용됩니다.

캠페인은 어떻게 진행되는가: 평가에서 수정까지

문의: 자주 묻는 질문 또는 [email protected].