Немного воскресного чтива про ИИ и будущее вычислений от Azeem Azhar. Лежало в закладках с лета, наконец-то добрался прочитать целиком. Все на Medium под paywall, поэтому по ссылке краткий пересказ.

В статье Азим рассказывает, почему на рынке вычислений нас ждут большие изменения. Три ключевых тренда:
1. В целом, массовый рост спроса на вычислительные мощности
2. Расцвет облака и бум на оконечной стороне (edge).
3. Появление новых разновидностей чипсетов.

http://telegra.ph/II-i-budushchee-vychislenij-09-30

#ai #computing #hardware #chipsets #intelligent #edge #cloud

Оригинал:
Часть 1: https://medium.com/s/ai-and-the-future-of-computing/when-moores-law-met-ai-f572585da1b7
Часть 2: https://medium.com/s/ai-and-the-future-of-computing/back-to-the-edge-ai-will-force-distributed-intelligence-everywhere-6b458d7aae5d

Если вы уже подустали от обычных цифровых вычислений на кремниевой основе, и даже квантовые вычисления вас уже не удивляют, то IEEE Spectrum рассказывает про 4 новых (странных) способа делать вычисления:
* Холодные квантовые нейроны: вдохновляясь чрезвычайно низким энергопотреблением нейронов мозга, ученые из NIST пытаются использовать эффектры сверхпроводимости, комбинируя отдельные устройства с взязанную "нейронную сеть"). Но все это пока при 4 градусах по Кельвину.
* "Вычисления на проводах": по мере все большего уплотнения транзисторов на чипсетах, все большую головную боль для инженеров представляют связи между транзисторами, которые также становятся все ближе. От этого на них развиваются паразитические эффекты кросс-передачи сигналов. Ученые из университета Миссури, решили, что это не баг, а фича, которую можно использовать для логических операций.
* Нано-блобы: группа ученых и инженеров из Дюрхемского университета учит небольшой коктейль из углеродных нанотрубок решать задачи классификации. В ходе обучения смесь проводников и полупроводников самоорганизуется в сложную сеть вокруг электродов. Причем в дальнейшем сеть может (самостоятельно) перестроиться для решения более простых задач.
* Кремниевые платы - ученые из Калифорнийского университета пытаются заменить привычную печатную плату кремниевой пластиной, чтобы уменьшить потери от тепловыделения при передаче данных между чипсетами и сделать возможной их более плотную упаковку. Фактически такая "интегрированная кремниевая фабрика" - это дальнейшая эволюция SoC-подхода.
https://spectrum.ieee.org/nanoclast/computing/hardware/4-strange-new-ways-to-make-a-computer #future #computing

Барабанные палочки, квантовые кубиты... Встречайте: Microsoft Quantum Development Kit: новый язык программирования Q#, симуляторы для локального и облачного исполнения, готовые библиотеки блоков и примеры кода. https://www.microsoft.com/en-us/quantum/development-kit #quantum #computing

Недавно я писал о том, что мы выпустили Quantum Development Kit, а вот теперь начали подходить и видео-обзоры непосредственно от авторов. В видео ниже Krysta Svore (principal reseacher) рассказывает, как начать работать с SDK: https://www.youtube.com/watch?v=v7b4J2INq9c #quantum #computing

К квантовым историям! Krysta Svore рассказывает в подкасте Microsoft Research о квантовых вычислениях, работе группы QuArC и недавно выпущенном Quantum Development Kit, Q#, топологических кубитах. https://www.microsoft.com/en-us/research/blog/future-is-quantum-with-dr-krysta-svore/ #quantum #computing

p.s. По ссылке также текстовая расшифрока.

Продолжаем! Мой коллега, Стас Павлов, технический евангелист Microsoft (поговаривают, что в прошлом он имеел отношение к ядерной физике), запустил новый канал в Telegram, посвященный именно квантовым вычислениям. Не стесняйтесь шарить и подписываться. #quantum #computing https://teleg.eu/qubit_daily

Третье, Anita Romanan из Microsoft UK, написала вводную статью про квантовые вычисления. В частности, Анита делится требованиями к "масштабируемому квантовому компьютеру", предложенными в 2008 году Давидом ДиВинсензо, которые хорошо держать в голове, когда вам в новостях рассказывают об очередном прорыве той или иной компании или группы исследователей:
1. Физическая система должна быть масштабируема, кубиты должны быть хорошо изучены
2. Мы должны иметь возможность повторяемо привести кубиты в простое начальное состояние (например, |000...>)
3. Система должна жить достаточно долго для выполнения операций на кубитах
4. Мы должны иметь возможность реализации "универсального набора" гейтов, используя систему
5. Измерение отдельных кубитов должно быть возможным

https://blogs.msdn.microsoft.com/uk_faculty_connection/2018/02/06/introduction-to-quantum-computing/ #quantum #computing

Вышло обновление нашего Quantum Development Kit. Внутри поддержка MacOS и Linux (через интеграцию с VSCode), дополнительные библиотеки, выложенные в Open Source, интероперабельность с Python и ускорение симуляций в 4-5 раз. https://cloudblogs.microsoft.com/quantum/2018/02/26/quantum-development-kit-adds-support-for-linux-and-mac/ #quantum #computing

Про обучение нейронных сетей и аппаратные решения. Группа исследователей из IBM Research продемонстрировала, что нейронные сети можно обучать целиком в пямяти на базе PCM-устройств (около 1 млн ячеек).

PCM (Phase-change memory) - это тип памяти с изменением фазового состояния, который IBM и ряд других компаний уже много лет разрабатывают, пытась создать энерогонезависимый носитель памяти, в котором данные хранятся за счет изменения фазового состояния материала.

В ходе работы команда обучила пару алгоритмов машинного обучения без учителя, которые успешно выявили временные корреляции в неизвестных ему потоках данных. Конкретный алгоритм тут играет малое значение, потому что фокус работы — на ускорении и снижении энергозатрат. Полученное решение показало примерно 200-кратное улучшение по сравнению с классическими компьютерами.

Почему это круто?
1. Фактически речь идет не просто об еще одном носителе памяти, а о весьма специфичной вычислительной модели, отличающейся от классической фон-Неймановской — "accumulation-based computation". PCM-устройства позволяют работать не просто с 0 и 1, но и промежуточными состояниями (кристаллизации), отсюда возникают накопительные эффекты, которые в свою очередь можно использовать для вычислительных задач.
2. Ранее IBM демонстрировала применимость PCM-устройств для организации "нейроморфных вычислений", в которых на уровне железа пытаются смоделировать работу реальных нервных сетей. Тонкость в том, что живые нейроны как раз реализуют в себе обе функции - хранения информации и вычисления, в то время как классическая компьютерная модель разделяет их в отдельные блоки.
3. Когда (или если) это все дойдет до промышленных масштабов, мы получим устройства, способные обучаться существенно быстрее и с меньшим потреблением энергии. Это все капает на мельницу переноса интеллектуальности на конечные устройства все меньшего и меньшего размера.

Анонс: https://www.ibm.com/blogs/research/2017/10/ibm-scientists-demonstrate-memory-computing-1-million-devices-applications-ai

Подробности: https://www.nature.com/articles/s41467-017-01481-9

#ai #inmemory #computing #hardware #pcm

Хорошая разминка для ума в понедельник. Ran Raz из университета Принсетона и Avishay Tal из Стэнфорда показали, что существует класс задач, которые эффективно размеришимы квантовыми компьютерами, но принципиально не разрешими классическими (даже если вдруг окажется, что P=NP). Фактически, это означает не только существенное ускорение (уже доказано, что принципиально квантовый компьютер может эффективно решать все P-задачи), но и вообще заход на новые типы задач, которые еще нужно научиться формулировать.

В статье ниже Wired дает кратку вводную для тех, кто подзабыл о классах алгоритмической сложности, и описывает пример такой задачи.

p.s. Важное уточнение: разделение на классы в задаче происходит в постановке с оракулом.

https://www.wired.com/story/finally-a-problem-only-quantum-computers-will-ever-be-able-to-solve/ #quantum #computing

Если вы уже начали играться с Q# - нашим языком программирования для квантовых компьютеров, то самое время поучаствовать в online-соревновании с 6 по 9 июля (тренировочные задачи доступны с 29 июня по 2 июля).

https://cloudblogs.microsoft.com/quantum/2018/06/27/challenge-your-skills-in-the-microsoft-q-coding-contest-summer-2018/

p.s. Не забудьте поставить себе свежую версию SDK, там существенно поработали над оптимизацией вычислений. https://cloudblogs.microsoft.com/quantum/2018/06/22/enhanced-debugging-and-faster-simulation-with-the-latest-quantum-development-kit-update/

#quantum #computing

В продолжение темы глобального технологического противостояния США и Китая. Обычно технологические и околонаучные СМИ хочется рассматривать как нейтральные источники, не ангажированные с политической повесткой, но, конечно, это далеко не так.

Вот, например, MIT Technology Review на полном серьезе опасается, что штаты проиграют квантовую гонку вслед (!) за гонкой в ИИ. И дает пять советов своему правительству о том, чего точно не стоит делать:

1. Делать ставку только на военные ведомства. Если во главу квантовой инициативы поставить военных, то, почти наверняка, это приведет к сужению фокуса в сторону криптографии и коммуникаций. Квантовая поляна должна быть сильно шире.

2. Слишком точно указывать, что именно нужно финансировать. Квантовая инициатива должна успевать адаптироваться за изменениями в технологиях и должна позволять перемещать ресурсы на другие проекты.

3. Недооценивать потребность в кадрах. В области квантовых технологий наблюдается огромная нехватка кадров. Задача найти достаточное число разработчиков, способных создавать программы для квантовых цепей кажется близкой к невозможной. Нужно инвестировать в исследовательские центры и подготовку новых курсов/учебных программ.

4. Инвестировать слишком много "во все квантовое". Озвученные планы государства превышают подсчеты академического сообщества по необходимым инвестициям. Важно убедиться, что, с одной стороны, деньги не разошлись слишком тонким слоем, а с другой, что государство не субсидирует частный сектор там, где он и так "должен" инвестировать. Это, кстати, тонкий нюанс!

5. Путать "America first" с "America only". У США нет монополии на экспертизу в квантовых вычислениях, поэтому важно развивать международную кооперацию с союзниками - Канадой, Австралией и Европой. В нечувствительных областях можно сотрудничать с китайскими университетами. Нужен национальных план, но с понимаем глобальной ситуации.

https://www.technologyreview.com/s/611442/keeping-america-first-in-quantum-computing-means-avoiding-these-five-big-mistakes #quantum #computing #national #politics