Tech & Science

AI 추론 분산 처리, 집에서 노는 컴퓨터를 빌려주면 돈이 되는 이유

🌐 Read in English →

집 어딘가에, 혹은 옆집 어딘가에, 하루 스물두 시간을 아무것도 하지 않고 켜져 있는 게임용 컴퓨터가 있습니다. 몇몇 회사가 그것을 자원으로 보기 시작했고, 값을 치르겠다고 나섰습니다.

아부다비에 있는 파랩스의 창업자 일만 샤자예프는 이 사업을 한 줄로 설명합니다. 우버나 에어비앤비를 떠올리되, 대상이 방이나 차가 아니라 AI 연산 작업이라는 것입니다. 프로그램을 깔고, 쓰지 않는 시간대를 정해 두고, 그동안 기계가 일하게 하고, 돈을 받습니다.

IEEE 스펙트럼이 9월 1일 이 시장을 정리해 보도했습니다. 파랩스는 몇 주 안에 서비스를 시작하고, 텍사스 오스틴의 에볼빙에지는 이미 공개 시험 단계에 있습니다. 블레스 네트워크, 샐러드, 배스트에이아이, 그래디언트도 지난 1년 사이 비슷한 서비스를 열었습니다.

가정용 게임 컴퓨터의 내부. 지금 만들어지고 있는 분산 연산 네트워크의 실제 재료가 이런 기계입니다. 사진: Jacek Halicki, 위키미디어 커먼즈, CC BY-SA 4.0.

왜 지금 이런 이야기가 나오는가

발상 자체는 전혀 새롭지 않습니다. 1999년부터 2020년까지 세티앳홈이라는 프로젝트가 있었습니다. 자원자들의 노는 컴퓨터를 빌려 전파망원경 자료에서 외계 신호를 찾던 일로, 역사상 가장 유명한 분산 연산 사업이었고 아무도 돈을 받지 않았습니다.

달라진 것은 추론이 AI에서 가장 비싼 부분이 됐다는 점입니다. 추론은 이미 학습을 마친 모델에 질문을 넣어 답을 받아내는 과정을 말합니다. 그리고 업계가 지금까지 내놓은 답은 건물을 더 짓는 것이었습니다.

그 답에는 특정한 장소에 떨어지는 비용이 따라붙습니다. 데이터센터는 그 지역의 전기값을 올리고 물을 많이 끌어다 쓰며, 소음을 내고 땅을 차지합니다. 그 부담을 지는 동네가 정작 그 연산을 쓰는 동네인 경우는 드뭅니다.

에볼빙에지를 세운 존 페더리코는 자기 회사를 그 구조에 대한 대답으로 설명합니다. 데이터센터는 자기가 들어선 지역에서 뽑아 가기만 할 뿐 서비스도 세금도 별로 돌려주지 않는데, 그럴 바에는 이 판을 통째로 뒤집어 보자는 것입니다.

공급 쪽에 대한 그의 관찰이 이 사업을 그럴듯하게 만듭니다. 미국 가구의 92퍼센트가 초고속 인터넷을 쓰고 있고, 그중 적지 않은 집의 붙박이장 안에 그가 작은 데이터센터라고 부르는 물건이 들어 있습니다.

일반적인 데이터센터. 최전선 모델의 학습이 이런 건물을 떠날 일은 없습니다. 다만 일상적인 추론의 몫은 달라질 수 있습니다. 사진: BalticServers.com, 위키미디어 커먼즈, CC BY-SA 3.0.

모델을 조각내 모르는 사람의 컴퓨터로 보낸다

바로 나오는 반박이 있습니다. 집에 있는 그래픽카드는 데이터센터 그래픽카드가 아니고, 가정용 인터넷은 데이터센터 내부 회선이 아닙니다. 샤자예프도 이 점을 그대로 인정합니다. 데이터센터급 작업을 성능이 제한된 기기에서 돌리는 것은 기술적으로 어려운 문제라고 말합니다.

답의 첫 번째 절반은 모든 일에 가장 큰 모델이 필요하지는 않다는 것입니다. 페더리코는 어느 정도 규모가 된 회사들이 최고 성능 모델에 사용량만큼 돈을 내는 방식이 자기 업무에는 더 이상 맞지 않는다고 느끼기 시작했고, 공개된 모델을 자기 업무에 맞춰 다시 학습시키는 쪽으로 옮겨 가고 있다고 말합니다.

그렇게 만든 모델은 기계 한 대에 들어갑니다. 그의 표현대로라면 일에 맞는 연장을 쓰는 것뿐입니다.

두 번째 절반은 모델을 쪼개는 것입니다. 한 대에 안 들어가면 잘라서 나눕니다. 에볼빙에지는 레이라는 공개 분산처리 도구를 써서 하나의 추론 작업을 여러 그래픽카드나 중앙처리장치에 나눠 돌립니다.

파랩스는 이 부분을 직접 만들었습니다. 모델을 여러 조각으로 잘라 각기 다른 기기로 보내고, 작업 흐름을 관리하는 조율기와 부하 분배기를 두어 기기마다 작업의 한 부분씩을 처리하게 한 뒤, 그 답들을 조율기에서 다시 하나로 합친다는 설명입니다.

응답 지연과 비용, 복원력 수치는 모두 해당 업체가 스스로 밝힌 값이며 제3자 검증을 거치지 않았습니다. 도표: 필자 정리.

그다음에 나오는 질문은 정해져 있습니다. 얼마를 주느냐를 묻고 나면 곧바로, 내 컴퓨터에서 대체 무엇이 돌아가고 그것이 무엇을 볼 수 있느냐를 묻게 됩니다.

에볼빙에지는 각 기기에 설치되는 프로그램의 소스 코드를 공개했습니다. 누구든 열어서 무슨 일을 하는지 확인할 수 있게 한 것입니다. 회사가 들여다보는 것은 자원 사용량뿐이고, 언제 일을 시킬지는 기기 주인이 정합니다.

파랩스는 최소 권한이라는 원칙 위에 시스템을 세웠습니다. 일을 하는 데 꼭 필요한 만큼만 권한을 준다는 뜻입니다. 작업은 격리된 상태로 돌아가고 통신은 암호화되며, 그래픽카드와 중앙처리장치, 메모리, 저장공간, 네트워크에 각각 한도가 걸립니다.

작업을 맡긴 고객이 남의 컴퓨터를 마음대로 들여다볼 수는 없고, 반대로 기기 주인은 사용 내역을 확인하고 언제든 작업을 멈추거나 권한을 거두거나 프로그램을 지울 수 있습니다.

보호는 반대 방향으로도 걸려 있는데, 이쪽이 덜 알려진 절반입니다. 작업은 잘게 나뉘어 각 기기가 필요한 최소한만 보게 되고, 정말 민감한 기업 업무는 남의 거실을 거치지 않고 통제된 장비에만 묶어 둘 수 있습니다.

이 그림이 성립하려면 무엇이 맞아야 하나

경제성 주장은 단순하고, 사실이라면 셉니다. 장비는 이미 있고 값은 이미 다른 사람이 치렀으므로 이 네트워크에는 새로 들어가는 설비 투자가 없습니다. 샤자예프는 그래서 데이터센터보다 싸게 추론을 팔 수 있다고 말합니다.

그는 문제의 크기를 이렇게 제시합니다. 오픈AI가 지난해 300억 달러쯤을 벌고도 80억 달러 안팎의 적자로 회계연도를 닫았고 회사가 밝힌 이유가 추론 비용이라는 것입니다. 그리고 그것은 대부분 글자를 다루는 모델이었다는 점을 덧붙입니다.

게임 안에서 실시간으로 소리와 영상, 동작을 만들어 내는 일은 자릿수가 다른 부담입니다. 그가 겨냥하는 것이 정확히 그 작업입니다.

복원력 주장은 더 흥미롭습니다. 흩어져 있는 네트워크에는 잃어버릴 건물 한 채가 없습니다. 샤자예프는 비트코인을 예로 듭니다. 비트코인을 멈추려면 지구 전체를 날려야 한다는 것입니다.

페더리코는 더 소박하고 더 설득력 있는 예를 듭니다. 올해 아마존 웹서비스가 멈췄을 때, 자동으로 각도가 조절되는 침대들이 세워진 자세로 굳어 버려 주인이 눕히지 못한 일이 있었습니다. 명령이 버지니아의 건물 한 곳까지 갔다 와야 했기 때문입니다. 그는 25만 대짜리 네트워크에서 100대를 잃어도 아무 일도 일어나지 않는다고 말합니다.

응답 지연도 같은 논리를 따릅니다. 참여하는 기계가 충분히 많아지면 요청을 물리적으로 가까운 기기가 받게 할 수 있습니다. 파랩스는 100밀리초 이하를 주장합니다. 이것이 사실이라면, 지금은 너무 느리고 비싸서 시도조차 못 하는 일이 열립니다. 돌아가는 게임 안에서 영상을 만들어 내는 것이 그런 예입니다.

물론 단서는 그대로 남아 있습니다. 위의 수치는 전부 업체가 스스로 밝힌 값이고 제3자 검증을 받은 것이 없으며, 가정용 기계는 전용 장비보다 느리고 제각각이며 연결도 덜 안정적입니다.

최전선 모델의 학습은 데이터센터를 떠나지 않습니다. 가장 큰 연구소들이 자기네 최신 모델로 돌리는 추론도 마찬가지입니다. 실제로 판이 열린 곳은 그 사이의 거대한 중간지대입니다. 작고 용도가 정해진, 다시 학습시킨 모델들이 조용히 많은 양의 일을 처리하는 영역입니다.

앞으로 실제 연산의 대부분이 쓰일 자리가 거기이고, 아직 누구도 그 자리를 잠가 두지 못했습니다. 그 몫의 일부라도 침실과 작은 사무실에서 처리될 수 있다면, AI를 늘리려면 변전소와 냉각용 저수지를 하나 더 지어야 한다는 주장은 조금 약해집니다.

이런 방식이 전에 어떻게 됐는지도 기억해 둘 만합니다. 세티앳홈은 선의만으로 21년을 굴러가다 결국 멈췄습니다. 이번에는 같은 발상에 돈이 오가는 통로가 붙어 있습니다. 그것이 이 방식을 오래가게 만들 수도 있고, 전혀 다른 무언가로 만들 수도 있습니다.

참고 자료

  • 디나 겐키나, Cash In on the AI Boom by Renting Out Your Spare Compute, IEEE 스펙트럼, 2026년 9월 1일.
  • 파랩스(farlabs.ai) 서비스 설명 및 창업자 일만 샤자예프 발언.
  • 에볼빙에지(evolvingedge.ai) 공개 시험 문서 및 창업자 존 페더리코 발언.
  • 세티앳홈(SETI@home), 캘리포니아대 버클리, 1999~2020년 프로젝트 기록.
  • 레이(Ray), 오픈소스 분산 연산 프레임워크 공식 문서.
  • 2026년 아마존 웹서비스 장애와 연결형 가전에 미친 영향에 관한 보도.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다