대규모 언어 모델 LLM의 개발에서 중국,미국보다 생성 AI에 뒤처진 일본. 일본이 뒤처지는 이유에 대하여 알아보겠습니다.
각국은 자체적인 인공지능 알고리즘을 개발하기 위해 경쟁하고 있지만 첨단 기술국인 일본은 이미 뒤처져 있습니다. 챗 GPT가 돌풍을 일으킨 이후로 생성 AI는 기술 분야에서 가장 유행하는 주제입니다. 골드만 삭스 연구에 따르면 생성 AI의 획기적인 발전은 향후 10년 동안 세계 GDP의 7% 또는 거의 7조 달러 증가시킬 수 있는 잠재력을 가지고 있습니다.
생성 AI 개발의 핵심은 텍스트 및 기타 콘텐츠를 생성하기 위해 방대한 데이터 세트를 처리할 수 있는 대규모 언어 모델(LLM)입니다. 그러나 일본은 현재 알고리즘을 개발하는 데 있어 미국, 중국, EU에 뒤지고 있다고 일본 LLM 스타트업 코토바 테크놀로지의 공동 설립자인 코지마 노리유키는 말했습니다.
알리바바와 텐센트를 포함한 중국 기업들은 지난 3년간 최소 79개의 LLM을 시작했다고 로이터통신이 국영 기관 컨소시엄의 연구를 인용해 지난 5월 보도했습니다. OpenAI, Microsoft, Google 및 Meta와 같은 미국의 대기업들은 국가의 LLM 발전을 촉진하는 데 중요한 역할을 한다고 코지마는 말합니다.
생성 AI에 뒤처진 일본
일본은 LLM 개발의 규모와 속도에서 미국, 중국, 유럽에 뒤처져 있습니다. “생성 인공지능 분야에서 일본의 뒤처진 위치는 주로 딥 러닝과 광범위한 소프트웨어 개발에서 상대적으로 보족한 점에서 비롯됩니다.”라고 코지마는 말했습니다.
딥러닝은 필요한 인프라와 애플리케이션을 개발하기 위해 소프트웨어 엔지니어들의 강력한 커뮤니티가 필요하다고 코지마는 덧붙였습니다. 하지만 경제 산업부에 따르면 일본은 2030년까지 789,000명의 소프트웨어 엔지니어가 부족할 것이라고 합니다. IMD 세계 디지털 경쟁력 순위에 따르면 일본은 현재 63개국 중 28위를 차지하고 있습니다.
일본은 또한 LLM이 IBM의 Vela 및 마이크로소프트의 Azure 호스팅 시스템과 같은 AI 슈퍼컴퓨터를 사용하여 교육해야 하기 때문에 하드웨어 문제에 직면해 있습니다. 일본의 어떤 민간 기업도 이러한 기능을 갖춘 자체 세계적인 수준의 기계를 보유하고 있지 않다고 닛케이 아시아가 보도했습니다.
따라서 후가쿠와 같은 정부 통제 슈퍼컴퓨터가 일본의 LLM 개발의 열쇠를 쥐고 있다고 코지마는 설명했습니다. “이러한 대규모 슈퍼컴퓨터에 대한 액세스는 전통적으로 LLM 개발 과정에서 가장 중요한 병목 현상이었기 때문에 LLM 개발의 중추를 형성합니다.”라고 그가 말했습니다.
일본의 슈퍼컴퓨터 역할
도쿄 기술 대학과 토호쿠 대학은 Fugaku를 사용하여 슈퍼 컴퓨터 개발자인 후지쯔 및 리켄과 협력하여 주로 일본 데이터를 기반으로 한 LLM을 개발할 계획이라고 후지쯔가 5월에 발표했습니다. 이 기관들은 일본의 다른 연구자들과 엔지니어들이 LLM을 개발하는 것을 돕기 위해 2024년에 연구 결과를 발표할 계획이라고 후지쯔는 덧붙였습니다.
일본 정부는 새로운 슈퍼컴퓨터를 구축하기 위해 총 비용의 약 절반인 68억 엔을 투자할 것이라고 닛케이 아시아가 보도했습니다. 이 슈퍼컴퓨터는 일본의 생성 AI 개발을 위한 LLM 훈련에 특화될 것이라고 닛케이 아시아가 말했습니다.
지난 4월 기시다 후미오 일본 총리는 일본이 인공지능 기술의 산업적 사용을 지지한다고 말했습니다. 기시다의 발언은 오픈 AI의 CEO 샘 알트먼과 만난 후에 나온 것으로, 샘 알트먼은 일본에 사무실을 개설할 것을 고려하고 있다고 말했습니다.
생성 AI 개발에 동참한 일본 기업들
빅 테크 기업들도 생성 AI에서 일본의 위상을 높이기 위한 싸움에 동참했습니다. 지난 6월 소프트뱅크 모바일 부문은 자체 생성 AI 플랫폼을 개발할 계획을 밝혔습니다. 이는 소프트뱅크 손정의 CEO가 방어 모드에서 공격 모드로 전환하고 AI에 대한 집중도를 강화할 계획이라고 발표하면서 강조되었습니다.
“우리는 AI 혁명을 위한 선도적인 위치에 있고 싶습니다.”라고 주주 총회에서 손 회장은 말했습니다. 소프트뱅크는 다른 투자를 트리밍함으로써 현금을 확보할 수 있으며, 비전 펀드 벤처 캐피털 투자 부문을 통해 AI에 크게 집중할 수 있습니다. 소프트뱅크가 소유한 칩 디자인 회사인 Arm도 올해 말 미국 IPO 상장을 추진할 예정입니다.
IPO는 3월 31일 끝나는 회계연도 비전 펀드에서 기록적인 4조 3천억 엔의 손실을 보고한 소프트뱅크의 자금을 늘리기 위해 많은 금액을 제공할 것입니다. Arm은 원래 80억 달러에서 100억 달러 사이의 자금 조달을 목표로 했습니다. 그러나 Anvarzadeh는 반도체 칩에 대한 수요 또한 증가하고 있기 때문에 Arm이 500억 달러에서 600억 달러 즉 소프트뱅크 시가총액의 85%를 조달할 수 있다고 제안했습니다.
일본 통신 회사 NTT도 기업을 위한 가볍고 효율적인 서비스를 만드는 것을 목표로 이번 회계 연도에 자체 LLM을 개발할 계획을 발표했습니다. NTT는 데이터 센터와 AI와 같은 성장 분야에 향후 5년간 8조 엔을 투입하여 이전 수준의 투자보다 50% 증가할 것이라고 말했습니다.
현지 언론은 디지털 광고기업 사이버에이전트가 지난 5월 기업들이 AI 챗봇 툴을 만들 수 있는 LLM을 출시했다고 보도했습니다. 사어버에이전트는 그것이 “일본어와 문화에 특화된 몇 안 되는 모델” 중 하나라고 말했습니다.
아직 생성 AI 에서 따라잡지 못하고 있지만 일본은 이러한 민간 부문의 노력으로 첫 걸음을 내딛고 있습니다. Kojima는 강력한 인프라가 구축되면 오픈 소스 소프트웨어와 이전 개척자들의 데이터를 사용함으로써 남은 기술적 과제가 상당히 완화 될 가능성이 높다고 말했습니다. Bloom, Falcon 및 Red Pajama는 모두 다운로드 및 연구할 수 있는 방대한 양의 데이터에 대해 훈련된 오픈 소스 LLM입니다.
그러나 이 분야에 진출하는 기업들은 비교적 더 긴 기간에 걸친 경쟁을 예상해야 한다고 코지마는 말했습니다. LLM을 개발하려면 상당한 자본 투자와 자연어 처리 및 고성능 컴퓨팅에 고도로 숙련된 인력이 필요하다고 그는 설명했습니다. 소프트뱅크와 NTT가 이 경쟁에 합류한다고 AI 지형이 단기적으로 바뀌지는 않을 것입니다.
일본의 인공지능 규제는
일본 기술 기업들의 인공지능 발전 참여 증가는 다른 분야에서의 인공지능 도입에 대한 긍정적인 입장과 일치합니다. 테이코쿠 데이터뱅크의 조사에 따르면 일본 기업의 60% 이상이 자사 운영에 생성 AI를 사용하는 것에 대해 긍정적인 태도를 가지고 있으며 9.1%는 이미 그렇게 하고 있는 것으로 나타났습니다.
히타치는 직원들의 안전하고 효과적인 기술 사용을 촉진하기 위해 인공지능 센터를 설립했다고 5월에 말했습니다. 데이터 과학자, AI 연구자 및 관련 전문가의 전문 지식을 바탕으로 센터는 생성 AI의 위험을 완화하기 위한 지침을 제정할 것이라고 말했습니다.
마츠노 히로카즈 관방 장관은 사이버 보안과 사생활 우려가 해결된다면 일본은 챗 GPT와 같은 AI 기술의 정부 채택도 고려할 것이라고 말했습니다.
하부카 히로키 교토대 법학전문대학원 연구교수는 “일본이 인공지능(AI) 사용에 더 개방적이 되면서 정부는 구체적인 위험에 기반한 엄격한 규제의 필요성을 평가하는 동시에 인공지능(AI)의 사용에 관한 소프트 가이드라인을 만들고 촉진해야 한다”라고 말했습니다.
< 참고 : Why Japan is lagging behind in generative A.I. — and how it can create its own large language models >
