자주 묻는 질문
자주 묻는 질문
결국 역량 연구를 간접적으로 지원하는 것 아닙니까?
컴퓨팅 자원은 대체 가능합니다. 연구소가 평가에 쓰려던 돈을 저희가 무료로 대신하면, 그 돈은 역량 연구로 돌아갈 수 있습니다. 이를 억제하는 두 가지가 있습니다. 클러스터 자체는 역량 작업을 할 수 없습니다. 그래디언트 업데이트는 기본적으로 차단되며, 유일한 예외인 출시 전 안전 파인튜닝은 작업 단위로 승인되고 다른 모든 참여자가 볼 수 있는 공개 기록에 기재됩니다. 그리고 컴퓨팅 자원은 연구 방향을 유인합니다. 안전 컴퓨팅의 기반이 넓어질수록 더 많은 안전 연구가 이루어집니다.
시급한 문제입니까?
클러스터가 자금을 확보하지 못한 채 한 달이 지날 때마다, 심각하게 안전하지 않은 오픈 모델이 가중치까지 함께 공개 인터넷에 공개될 위험이 커집니다.
왜 싱가포르입니까?
싱가포르는 이런 종류의 시설에 필요한 법적·외교적·기술적 여건을 갖춘 몇 안 되는 관할권 중 하나이며, 관련 체계가 이미 가동되고 있습니다. 2024년 5월부터 운영된 국가 AI 안전 연구소, AI Verify 보증 체계의 계보, 그리고 공개된 레드팀 테스트 기록이 그것입니다.
METR, Apollo, 각국 AI 안전 연구소에 직접 자금을 지원하면 되지 않습니까?
서구의 평가 기관에도 자금을 지원해야 합니다. 그들에게도 필요합니다. 클러스터는 직접 보조금이 할 수 없는 일을 합니다. 중국의 오픈 모델을 미국 모델과 같은 설정에서 나란히 평가하고 하나의 공개 기록을 남기는 중립적인 장소입니다.
왜 정부 자금을 받지 않습니까?
정부 자금이 없어야 신뢰가 더 빨리 쌓이기 때문입니다. 연구소는 설교도 없이, 주목도 받지 않고 컴퓨팅 자원을 받을 수 있습니다. 민간 자선 기금이 유일한 재원입니다.
누가 운영합니까?
소규모 팀이 클러스터를 운영하며, 평가 작업은 더 넓은 안전 연구 커뮤니티에서 맡습니다. 기존에 설립된 미국 501(c)(3) 단체가 재정 후원을 제안했으며, 현재 계약서를 작성 중입니다.