В продолжение темы "взлома мозга". SingularityHub пишет про два новых исследования в нише создания нейроморфных чипсетов. Первое - о борьбе с непредсказуемостью в искусственных синапсах ("отростках" нейронов, проводящих и хранящих информацию). Второе - о повышении вычислительных возможностях через наполнение синапсов нанокластерами супермагнитных материалов для ускорения кодирования информации.
Цель всех эти исследований: создать нейроморфный чип, то есть кастомную железку, которая "повторяет" поведение мозга на аппаратном уровне. В таком чипе каждый синапс собирает и объединяет небольшие объемы информации из множества источников и сигнализирует об этом только при преодолении определенного порога (по аналогии с биологической системой).
Чипы, существующие сегодня, в большинстве своем представляют металлические сендвичи, симулирующие поведение небольшого числа нейронов. Правда, они оказываются не очень предсказуемыми, так как направить ионы точно в нужные места не получается из-за множества физических дефектов. Другими словами, на одних и тех же данных, плата может показывать разные результаты.
В первой работе описывается методика использования кремния и сплавов кремния-германия при создании таких чипсетов. Это позволило снизить разброс в "ответах" до 4% процентов.
Вторая работа рассказывает о применении нанокластеров намагниченного марганца, которыми можно управлять с помощью магнитных полней. Это позволило повысить предсказуемость течения ионов и также кодировать информацию не только через электронный вход, но и через направление магниного поля. (И, кажется, это может работать быстрее биологических нейронов.)
Звучит оптимистично, но... конечно, пока есть большое "но". Это условия эксплуатации и низках масштабируемость. https://singularityhub.com/2018/02/07/brain-like-chips-now-beat-human-brain-in-speed-and-efficiency #ai #brain #neuromorphic #chip #hardware
Цель всех эти исследований: создать нейроморфный чип, то есть кастомную железку, которая "повторяет" поведение мозга на аппаратном уровне. В таком чипе каждый синапс собирает и объединяет небольшие объемы информации из множества источников и сигнализирует об этом только при преодолении определенного порога (по аналогии с биологической системой).
Чипы, существующие сегодня, в большинстве своем представляют металлические сендвичи, симулирующие поведение небольшого числа нейронов. Правда, они оказываются не очень предсказуемыми, так как направить ионы точно в нужные места не получается из-за множества физических дефектов. Другими словами, на одних и тех же данных, плата может показывать разные результаты.
В первой работе описывается методика использования кремния и сплавов кремния-германия при создании таких чипсетов. Это позволило снизить разброс в "ответах" до 4% процентов.
Вторая работа рассказывает о применении нанокластеров намагниченного марганца, которыми можно управлять с помощью магнитных полней. Это позволило повысить предсказуемость течения ионов и также кодировать информацию не только через электронный вход, но и через направление магниного поля. (И, кажется, это может работать быстрее биологических нейронов.)
Звучит оптимистично, но... конечно, пока есть большое "но". Это условия эксплуатации и низках масштабируемость. https://singularityhub.com/2018/02/07/brain-like-chips-now-beat-human-brain-in-speed-and-efficiency #ai #brain #neuromorphic #chip #hardware
Singularity Hub
Brain-Like Chips Now Beat the Human Brain in Speed and Efficiency
Move over, deep learning. Neuromorphic computing—the next big thing in artificial intelligence—is on fire. Just last week, two studies individually unveiled computer chips modeled after in the human brain. The result? Brain-like hardware systems that compute…
Про специализированные чипы - пара новостей от MIT с разницей в один день (оба проекта, отмечу, аспирантские!):
1. Энерго-эффективное шифрование для интернета вещей. Шифрование в сетях общего пользование становится нормой, но обработка информации, в основном, делается на софтверном уровне. Это не очень хорошо подходит для задач IoT с повсеместными вычислениями, сенсорами в полях, зданиях и т.п., так как нужно экономить энергию, хотя шифровать информацию по-прежнему надо.
Исследователи MIT спроектировали новый специализированный чип для работы с публичными ключами на аппаратном уровне, потребляющий в 400 раз меньше энергии по сравнению с софтверной реализацией, в 10 раз меньше памяти и работающий в 500 раз быстрее. http://news.mit.edu/2018/energy-efficient-encryption-internet-of-things-0213
p.s. Тут нельзя не вспомнить анекдот про букву S (Security) в слове IoT. Дешевое шифрование для интернета вещей — это хорошо.
2. Энерго-эффективное вычисление алгоритмов на нейронных сетях. Второе исследование - в похожем русле, но с другим акцентом. Решаемая задача - сделать рассчет нейронных сетей достаточно эффективным, чтобы это можно было делать на мобильных устройствах, не опасаясь сожрать всю батарейку. (На всякий случай, ребята из MIT — не единственные, кто об этом думает. Я уже писал о подобных проектах от крупных компаний.)
Основная идея — сделать на аппаратном уровне распараллеленную операцию скалярного умножения векторов (фактически, операцию свертки, как основную в расчете тензоров), снижая тем самым перегон данных между памятью и процессором. В результате - существенное ускорение (в 5-7 раз) и снижение энергопотребления (на 94-95%).
http://news.mit.edu/2018/chip-neural-networks-battery-powered-devices-0214
#ai #crypto #chip #hardware #energy
1. Энерго-эффективное шифрование для интернета вещей. Шифрование в сетях общего пользование становится нормой, но обработка информации, в основном, делается на софтверном уровне. Это не очень хорошо подходит для задач IoT с повсеместными вычислениями, сенсорами в полях, зданиях и т.п., так как нужно экономить энергию, хотя шифровать информацию по-прежнему надо.
Исследователи MIT спроектировали новый специализированный чип для работы с публичными ключами на аппаратном уровне, потребляющий в 400 раз меньше энергии по сравнению с софтверной реализацией, в 10 раз меньше памяти и работающий в 500 раз быстрее. http://news.mit.edu/2018/energy-efficient-encryption-internet-of-things-0213
p.s. Тут нельзя не вспомнить анекдот про букву S (Security) в слове IoT. Дешевое шифрование для интернета вещей — это хорошо.
2. Энерго-эффективное вычисление алгоритмов на нейронных сетях. Второе исследование - в похожем русле, но с другим акцентом. Решаемая задача - сделать рассчет нейронных сетей достаточно эффективным, чтобы это можно было делать на мобильных устройствах, не опасаясь сожрать всю батарейку. (На всякий случай, ребята из MIT — не единственные, кто об этом думает. Я уже писал о подобных проектах от крупных компаний.)
Основная идея — сделать на аппаратном уровне распараллеленную операцию скалярного умножения векторов (фактически, операцию свертки, как основную в расчете тензоров), снижая тем самым перегон данных между памятью и процессором. В результате - существенное ускорение (в 5-7 раз) и снижение энергопотребления (на 94-95%).
http://news.mit.edu/2018/chip-neural-networks-battery-powered-devices-0214
#ai #crypto #chip #hardware #energy
MIT News
Energy-efficient encryption for the internet of things
A special-purpose chip hardwired to implement elliptic-curve cryptography in general and the datagram transport layer security protocol in particular reduces power consumption by 99.75 percent and increases speed 500-fold, to help enable the internet of things.
О, как-то пропустил новость про Amazon. В общем, похоже (и это супер-логично), что Amazon тоже выходит на рынок кастомных AI-чипсетов, причем с фокусом на конечные устройства (Echo), чтобы улучшить качество и скорость работы голосового помощника (Alexa).
The Verge, отмечает, что это особенно интересно не только на фоне других игроков, которые этой темой уже занимаются в контексте конечных устройств (Apple, Google и т.п.), но и на фоне Intel и NVidea, которые явно делают одну из ставок на нишу AI, а в ней оказывается слишком много сильных игроков. https://www.theverge.com/2018/2/12/17004734/amazon-custom-alexa-echo-ai-chips-smart-speaker
#ai #chip #hardware
The Verge, отмечает, что это особенно интересно не только на фоне других игроков, которые этой темой уже занимаются в контексте конечных устройств (Apple, Google и т.п.), но и на фоне Intel и NVidea, которые явно делают одну из ставок на нишу AI, а в ней оказывается слишком много сильных игроков. https://www.theverge.com/2018/2/12/17004734/amazon-custom-alexa-echo-ai-chips-smart-speaker
#ai #chip #hardware
The Verge
Amazon is reportedly following Apple and Google by designing custom AI chips for Alexa
Echo devices with custom onboard AI chips would be faster and more efficient than relying solely on the cloud