코인뉴스
주요코인시세(KRW)
BTC %
ETH %
XRP %
ADA %
DOGE %
※ 업비트 시세 기준
XRPL Account Lines
XRPL Account Offers
XRPL Account Currencies

웹2.0 실패가 AI 기술에 주는 교훈

관리자 2023.04.23 12:27 조회 수 : 9

출처=셔터스톡

필자는 머신러닝이나 인공지능(AI) 관련 연구는커녕 코드조차 작성해본 경험이 없다. 그런 사람이 이런 말을 하는 게 다소 주제넘게 들릴지도 모르겠다.

그러나 이것만큼은 분명히 해둘 필요가 있다. 최근 AI 업계의 영향력 있는 인사들이 관련 연구를 6개월간 중단하거나 심지어 강제로 중지시켜야 한다고 주장하는 것은 근본적으로 잘못된 생각이라는 것이다. 이는 우리가 피하고자 하는, 인류에 대한 파괴적인 결과를 오히려 조장하는 논리다. 더욱이 미국 정부가 암호화폐(가상자산) 산업에 대한 규제를 강화하고 있다는 점은 우리 모두에게 위협적이라고 할 수 있다. 암호화폐 산업은 AI 기술이 가져올 위협을 통제하는 데 필요한 암호화 기술 및 네트워크 조정 기술을 개발하는 오픈소스 혁신 분야다.

AI 연구를 중단하자는 사람들은 경제 전공자가 아닌 컴퓨터 과학자들인 경우가 많다. 문제는 통제 불능의 AI가 인류를 말살시킬 만큼 진화한다는 데 있지 않다. (여러분도 잘 알다시피 지난 수십년간 할리우드는 우리에게 그렇게 주입했다) 우리가 해야 할 일은 AI 경제학이 본질적으로 그렇게 끔찍한 결과를 조장하지 않도록 하는 데 있다. 즉, AI 기계의 입출력에 대한 집중적인 통제가 공동의 이익을 위해 함께 행동하는 인간의 능력을 저해하지 못하도록 해야 한다는 것이다. 이런 디스토피아적 악몽이 현실로 나타나는 것을 막으려면, 집단적이고 협력적인 소프트웨어 개발이 필요하다.

따라서 업계 선두주자인 챗GPT 개발사 오픈AI를 폐쇄하거나 AI 기술 개발을 중단하는 게 정답이 될 수 없다. 오히려 이것은 악몽이 현실로 나타나게 하는 가장 효과적인 방법이다.

 

웹2.0의 실패에서 얻는 교훈

우리는 이미 광고 중심의 소셜 플랫폼 기반 경제인 웹2.0의 실패를 통해 교훈을 얻은 바 있다. 탈중앙화한 웹1.0 인터넷은 구글과 페이스북, 아마존 등 데이터를 수집하는 거대 기업을 중심으로 다시 중앙집중식 체제가 됐다. 이들 기업은 쇼샤나 주보프가 주창한 ‘감시 자본주의’의 수혜자가 됐고, 우리 인간은 그 피해자가 됐다. 기업은 개인 데이터를 추출해 행동 수정 알고리듬에 재활용함으로써 이익을 창출했다.

이 모든 일은 구글이 ‘악이 되지 말라’는 사훈을 내팽개쳤기 때문이 아니다. 구글을 비롯한 기업 전체가 그저 시장의 논리에 밀려 비슷한 모델을 채택했기 때문이다. 광고는 수익을 창출했고, 기하급수적으로 증가하는 사용자 풀은 기업이 광고 수익 극대화를 위해 인간의 행동을 예측하는 데 필요한 데이터를 제공했다. 주주들은 수익 증가가 계속되길 요구하며 이 모델을 두 배로 확대해 매 분기 목표 수익을 달성하도록 압박했다. 네트워크 효과가 나타나기 시작하고, 플랫폼이 자체적인 역량 강화를 통해 더 많은 사용자를 끌어들이면서 데이터 추출 모델의 수익성은 더욱 높아졌다. 이와 함께 월가의 기대치도 덩달아 커졌다. 그러면서 이 모델을 포기하기가 점점 더 어려워졌다.

지금 같은 독점적 구조에서 AI 개발이 진행되면, 이 같은 착취적 시스템은 더욱 공고해질 것이다. 해결책은 연구 중단이 아닌, AI 개발자가 해당 모델을 파괴하는 방법을 고안하도록 장려하는 것이다.

 

새로운 자본주의 시대의 도래

지난 수세기 동안 시장 자본주의 시스템은 점유율을 차지하기 위한 기업 간 경쟁을 장려함으로써 모두에게 부와 생산성을 창출했다. 이 시스템은 부의 격차를 조장했지만, 장기적으로는 반독점법, 노동조합법, 사회안전망법을 통해 전 세계적으로 전례 없는 복지제도의 개선을 가져왔다.

그러나 이 시장 자본주의 시스템은 물리적 상품의 생산과 판매 중심의 아날로그 경제를 위해 구축된 것이다. 과거에는 지리적 제약으로 다수의 성장 기회에 꽤 부담스러운 비용이 발생했다. 그러나 지금의 인터넷 시대는 전혀 다르다. 소프트웨어 생산의 효율성을 높임으로써 매우 낮은 한계 비용으로 시장 점유율을 빠르게 확대할 수 있다. 인터넷 시대의 가장 가치 있는 상품이 철광석 같은 물리적 상품이 아니라 바로 우리 인간에게서 추출한 데이터다.

따라서 우리는 탈중앙화한 소유권과 컨센선스 거버넌스를 기반으로 한 새로운 모델이 필요하다. 이것은 곧 경쟁력 있는 혁신을 위한 인센티브를 기반으로 하되, 공익을 위한 혁신을 주도하는 자정 프레임워크를 탑재한 모델이다.

필자가 이 같은 모델을 내세우는 것은 탈중앙화 AI 개발 프로토콜인 비텐서의 제이콥 스티브스 창업자로부터 영감을 얻었기 때문이다. 필자는 가상자산 기술이 인간의 미래가 어떤 모습일지 정의하는 데 도움을 준다고 믿는다. 그리고 이를 위한 보호책도 반드시 필요하다는 입장이다.

스티브스는 이번 주 ‘돈을 다시 생각하다’ 팟캐스트에 출연해 “우리는 AI의 개방형 소유권 구축을 주장한다”며 “기여할 수 있다면, 소유도 할 수 있다. 그걸 사람들이 결정하도록 놔두자는 게 우리의 논리”라고 언급했다.

충분히 분산된 소유권과 통제권을 통해 어느 한쪽이 AI 개발을 좌지우지하지 못하도록 방지하자는 것이다. 하지만 그룹 전체는 해당 그룹에 유리한 모델을 선택할 것이라는 게 스티브스 주장의 요지다. 그는 “이 선택권이 우리에게 있다면, 그것이 우리를 해치지는 못할 것이다"며 "AI의 근본적인 통화, 근본적인 소유권은 사용자의 지갑에 있기 때문”이라고 설명했다.

지나치게 유토피아적인 이야기일까? 물론 그럴 수도 있다. 가상자산 역사가 시작된 후로 수많은 사기 사건이 발생했다. 따라서 다수는 본능적으로 가상자산 AI 모델이 악의적인 행위자에게 도용당하는 걸 상상할 것이다.

하지만 오픈소스 혁신과 집단적 거버넌스를 기반으로 공동의 프로젝트를 구축하고자 한다면, 우리에게 가장 필요한 것은 블록체인 프로토콜을 중심으로 생겨난 생태계다.

스티브스는 “이더리움과 비트코인은 해시를 기준으로 전 세계에서 가장 큰 슈퍼 컴퓨터”라며 “이러한 네트워크는 좋든 싫든, 권력 논쟁의 어느 편에 서 있든 상관없이 그 자체로 거대한 구조다. 이는 인류가 만들어낸 가장 큰 규모의 컴퓨팅 구조로 구글 같은 기업의 데이터 웨어하우스보다 수백 배나 더 크다”고 언급했다.

 

규제의 덫

챗GPT와 GPT1~4 거대 언어 모델(LLM)을 만든 오픈AI는 이러한 블록체인 생태계와는 매우 다른 구조로 이뤄져 있다. 이 회사는 마이크로소프트로부터 100억달러 투자를 유치한 민간 기업이다.

앞서 언급한, 오픈AI 창립 멤버 일론 머스크가 참여한 진행AI 개발 중단 촉구 공개서한에는 현재 2만5000여 명이 서명했다. 샘 알트먼 오픈AI CEO는 아직 서명에 참여하진 않았지만, 이 요구가 실행되면 오픈AI는 직접적인 수혜자가 돼 경쟁업체는 이곳의 지배력에 도전하기 어려워지고, 결국 알트먼이 향후 AI 개발을 주도하게 될 것이다.

가상자산 선구자 피터 베센스는 이번 주 코인데스크 기고문에서 “이 서한은 오픈AI와 그 동맹 기업이 AI 기술의 지배력을 강화하고, 혁신의 주도권을 확장함으로써 미래에 근본적으로 중요한 기술에 대한 우위를 확보하고자 대중의 지지를 모으는 역할을 한다”며 “이렇게 되면 미국 경제와 국민에게 돌이킬 수 없는 피해를 줄 것”이라고 지적했다.

그는 이어 개발 중단 공개 서한을 강력히 비판했다. “지난 1997년, 마이크로소프트와 델이 지금 같은 ‘개발 중단’ 서한을 발표했다고 가정해보자. 인터넷이 오프라인 매장을 잠식하고, 테러범 자금줄 역할을 할 것이라는 자체 연구를 인용하며 6개월간 브라우저 혁신을 중단하고, 새로운 전자상거래 사이트 출시를 금지할 것을 촉구하면서 말이다. 오늘날 우리는 이를 이기적인 경고이자 각종 규제를 발목 잡으려는 이기적인 시도로 평가했을 것이다.”

오픈AI는 현재 폐쇄형 시스템을 기반으로 하지만, 머신러닝에 대한 LLM 접근 방식은 이제 온갖 기발한 방식으로 복제되고 있다. 도대체 미국 과학자들의 합의나 의회의 법안으로 이들 기술의 발전을 어떻게 막을 수 있다는 것인가? 특히 미국이 ‘불량국가’라 일컫는 나라의 지원을 받아 범죄에 악용하는 행위는 더욱 막을 길이 없다.

 

잘못된 방향

이런 와중에 가상자산에 대한 미국 정부의 적대감, 요컨대 증권거래위원회(SEC)가 업계 리더격 업체에 가한 일련의 조치와 오픈소스인 토네이도 캐시 프로토콜에 대한 제재가 더해지면서 우려스러운 상황이 전개되고 있다. 가상자산 업체가 미국을 떠나는 것은 디지털 자산 산업에 대한 위협 그 이상이다. 이것은 오픈소스 혁신 자체에 대한 직접적인 타격이다. 오픈소스 혁신은 AI 기술이 중앙집권적 이해관계에 포획되는 것을 막기 위해 반드시 필요한 기술이다.

최근 가상자산 투자자들이 입은 큰 손실에도 불구하고, 많은 자금이 암호화 기술에 투입돼 큰 발전을 이루었다. 예를 들어, AI의 스누핑으로부터 민감한 정보를 보호하는 데 중요한 역할을 할 것으로 보이는 영지식 증명은 이전 시대보다 훨씬 큰 발전을 이루었다.

암호화 기술의 비허가형 혁신에서 창출되는, 소위 ‘대중의 지혜’에서 비롯되는 이점도 분명히 존재한다. 기업 경영진이 높은 곳에서 지시한 아이디어보다 일반 사원이 낸 아이디어가 더 크게 확산하기도 하는 것처럼 말이다. 하지만 오픈AI의 혁신 구조는 이와는 완전히 다르다. 오픈AI는 현재 인터넷의 방대한 데이터를 활용하는 방법과 이를 바탕으로 놀랍도록 효과적인 LLM을 훈련하는 방법까지 개발했다. 그러나 오픈소스, 비영리 시스템의 지위를 포기한 채 이제는 새로운 기업 투자자의 수익 극대화 요구에 종속된, 폐쇄적인 블랙박스 운영자로 전락해버렸다.

출처 https://www.coindeskkorea.com/news/articleView.html?idxno=91060

번호 제목 날짜
216 [오전브리핑] 비트코인 2만8000달러 회복, 바이낸스 보이저 인수 철회 23.04.26
215 솔라나 "챗GPT로 NFT 구매"...플러그인 출시 예고 23.04.26
214 아르헨티나서 비트코인 가격 사상 최고가 경신 23.04.26
213 구글 클라우드 스타트업 지원 프로, 웹3 기업으로 확대 23.04.26
212 [코인시황] 비트코인 다시 2만8000달러 회복…기술 실적 호조 및 숏포지션 대거 청산 23.04.26
211 바이낸스, 보이저 자산매입 철회...“미국 규제 환경 탓” 23.04.26
210 코인 첫 자본시장법 적용…법원 ‘증권성’ 인정 미지수 23.04.26
209 [저녁브리핑] 가상자산이용자보호법 통과, 컨센서스 관전 포인트 23.04.26
208 '가상자산이용자보호법', 국회 정무위 소위 통과 23.04.26
207 코인베이스, SEC에 '규제 명확성' 촉구 23.04.26
206 크립토내비게이션 : 시장은 어떻게 반응하고 있는가? 23.04.26
205 [오전브리핑] 권도형 "테라는 증권 아닌 화폐", 이더리움 레이어2 TVL 최고치 경신 23.04.26
204 스탠다드차타드 "크립토윈터 끝…비트코인, 2024년 10만달러 도달" 23.04.26
203 [코인시황] 연준 금리 지속 우려에 비트코인·이더리움 동시 하락 23.04.26
202 이더리움 레이어2 네트워크 TVL, 역대 최고치 경신 23.04.26
201 카르다노·솔라나 기반 NFT 판매량 급증...이더리움은 감소 추세 23.04.26
» 웹2.0 실패가 AI 기술에 주는 교훈 23.04.23
199 아이오트러스트 “EU 규제는 지갑 사용자 확대 기회” 23.04.23
198 4월 셋째 주 주간브리핑 23.04.23
197 [저녁브리핑] 코인 열풍에 2·30대 회생신청 증가, 제미니 아시아 진출 23.04.23
닫기