Mythic – AI chips for the edge

By 3월 20, 2018Welcome on Board
[한국어는 아래에..] SoftBank is paving the way for a future of ubiquitous connected devices powered by Artificial Intelligence. At SoftBank Ventures we invest in innovative early-stage startups – both software and hardware-centric – that are accelerating the progress towards the Information Revolution.


(Mythic Logo)


It is now apparent that AI is having a profound impact on businesses and lives with the proliferation of new applications in virtually all end markets. The recent technological breakthroughs in massive data storage, parallel processing, and enhanced neural networks algorithms (in part led by nVidia, which is 5% owned by SoftBank Group), have made AI commercially viable, if not necessary for enterprises to remain competitive.

Until now, most advances in AI have been achieved in the cloud, using GPUs (Graphical Processing Units). However, to be competitive, IoT (Internet of Things) devices require a special type of solution for AI. First, IoT requires distributed computing, as data from billions of devices cannot be continuously piped to the cloud for centralized GPU processing. Second, IoT devices require embedded intelligence for time critical decisions. Lastly, they require low-cost and low-power processors for inexpensive and durable deployment. As an example, the iPhoneX now performs many of the sophisticated AI tasks related to image processing and recognition on the smartphone itself, which illustrates the current paradigm shift from ‘cloud computing’ to ‘edge computing’.


(Image from Mythic hompage)


While the data center (i.e. server side) market is hard to break into for new AI hardware entrants because of the dominant incumbents, such as nVidia, and an already crowded startup market, we believe new entrants have the best chance of success in the end-device market (i.e. at the edge) which is growing fast and requires a fundamentally different technological approach. Mythic, which raised $40 Million in series B financing led by SoftBank Ventures, is proving to be the leader in this space.


(Mike Henry, founder and CEO of Mythic)


Mythic, a fabless semiconductor company with offices in Redwood City, CA and Austin, TX, has developed a new chip that opens up a new generation of intelligent IoT devices. The chip performs at the level of a desktop GPU but consumes 100 times less power and has a much smaller form factor (approximately 1×1 cm) and lower cost (a fraction of the cost of a GPU). Embedded inside a camera or drone for instance, the Mythic chip would enable a sophisticated neural network to perform image processing at High-Definition resolution and full frame rate locally, requiring no connectivity and low power, which means not only an extended battery life but also a lighter and cooler device. Other target devices that would directly benefit from this value proposition include autonomous vehicles, robots, and AR/VR products.


(Mythic Austin team)


Mythic is able to achieve this unprecedented level of performance through a novel architecture based on an analog processor-in-memory design, a breakthrough resulting from years of R&D in the field. The company will begin shipping its first product samples at the end of this year. In the future, the combination of ARM (another SoftBank company) and Mythic has the potential to power millions of devices and enable a whole new category of intelligent products across dozens of verticals, ranging from retail and logistics to autonomous cars and drones to healthcare. We are proud to welcome the Mythic team to the SoftBank family!

[한국어 번역]
미씩(Mythic) – 엣지 컴퓨팅 AI칩 개발 스타트업
소프트뱅크는 인공 지능을 기반으로 한 유비쿼터스 커넥티드 디바이스 분야의 미래를 열어 가고 있습니다. 이에 소프트뱅크벤처스는 소프트웨어 및 하드웨어 영역의 혁신적인 초기 단계 스타트업들에 투자하며 정보 혁명으로의 혁신에 한걸음씩 다가가고 있습니다.

인공지능이 오늘날 사람들의 생활 그리고 비즈니스와 관련된 모든 분야에 적용되어 중대한 영향을 미치고 있는 사실은 자명합니다. 대용량 데이터 저장, 병렬 처리, 그리고 소프트뱅크가 투자한 엔비디아가 주도하고 있는 신경망 분야에서 최근의 기술 진보는 인공지능의 상업적 가능성을 보여주었습니다.

지금까지 인공지능 발전의 대부분은 GPU(Graphical Processing Units)를 활용한 클라우드 분야에서 이루어져 왔습니다. 한편, 사물인터넷 디바이스들이 인공지능을 적용해 경쟁력을 갖추기 위해서는 특수한 타입의 솔루션들이 필요합니다.

먼저, 사물인터넷은 중앙 데이터센터와 직접 소통하는 방식의 GPU를 위해 수십억 개의 장치에서 데이터를 지속적으로 클라우드에 공급할 수 없기 때문에 분산 컴퓨팅이 필요합니다. 둘째로, 사물인터넷 디바이스들이 빠른 시간 내에 이루어져야 하는 의사 결정들을 처리하기 위해 임베디드 인텔리전스가 필요합니다. 마지막으로, 저비용으로 지속적으로 작동하기 위해 저비용, 저전력의 프로세서가 필요합니다. 일례로, iPhone X는 이러한 솔루션들을 도입하여 스마트폰 자체에서 이미지 처리, 인식과 관련된 정교한 AI 작업을 수행하는데요, 이는 ‘클라우드 컴퓨팅’에서 ‘에지 컴퓨팅’으로의 오늘날의 패러다임 전환을 보여줍니다.

서버 분야와 같은 데이터 센터 시장은 엔비디아와 같은 독점적인 대기업 및 기존의 수많은 스타트업들이 존재하고 있어 새로운 AI 하드웨어 스타트업이 우위를 점하기 쉽지 않은 상황입니다. 하지만 엣지 컴퓨팅과 같이 빠른 속도로 성장하며 근본적으로 다른 기술적 접근을 필요로 하는 디바이스 시장은 신규 진입자가 성공할 수 있는 가능성이 가장 큰 분야라고 생각합니다. 소프트뱅크벤처스가 이끈 이번 시리즈B 투자에서 4천만 달러(약 400억원)의 투자를 받은 미씩(Mythic)은 단연 이 분야의 선두주자입니다.

캘리포니아 레드우드시티와 텍사스 오스틴에 사무실을 둔 팹리스 반도체 회사(반도체 설계만을 하는 회사)인 미씩은 새로운 칩을 개발해 차세대 인텔리전트 IoT 디바이스 분야를 이끌어가고 있습니다. 미씩이 개발한 칩은 데스크톱 GPU 수준에서 구동이 가능하면서도 전력 소비는 100 배로 절감되었으며, 폼 팩터(제품 치수의 형태, 약 1x1cm)가 훨씬 작고 가격도 GPU 가격의 일부 수준으로 저렴합니다.

예를 들어 미씩이 개발한 칩을 카메라나 드론에 내장하면, 전체 프레임을 활용하는 수준의 속도로 로컬(기기 가까이 위치한 엣지 데이터센터)에서 정교한 신경 네트워크를 통한 고해상도 이미지 처리가 별도의 연결 없이 저전력으로 가능합니다. 이는 디바이스의 배터리 수명을 연장할 뿐만 아니라, 디바이스의 무게가 더욱 가벼워지고 열도 덜 받게 합니다. 자율주행차량, 로봇, AR과 VR 관련 제품들도 미씩의 칩을 활용해 이러한 효과를 얻을 수 있습니다.

미씩은 수년간의 연구개발을 통해 성과를 이뤄내어, 아날로그 프로세서 인 메모리(processor-in-memory, 데이터 입출력 필요성을 크게 줄여 성능을 향상시키는 방법) 설계를 기반으로 새로운 아키텍처를 통해 전례 없는 수준의 성능을 구현해 냈습니다.

미씩은 올해 말부터 첫 제품 샘플을 시장에 선보일 예정입니다. 향후에는 소프트뱅크가 투자한 ARM과 협업하여 소매와 물류부터 자율주행 차, 드론, 헬스케어에 이르기까지 다양한 분야의 수백만 대의 디바이스가 미씩의 칩을 활용하고, 새로운 인텔리전스 프로덕트 분야를 실현해 나갈 것으로 기대하고 있습니다. 소프트뱅크벤처스는 미씩 팀을 소프트뱅크그룹의 일원으로 맞이해 여정을 함께하게 되어 기쁘고 자랑스럽습니다!



Reda Dehy

Author Reda Dehy

More posts by Reda Dehy