https://youtu.be/ABbDB6xri8o Tesla AI pipeline, sooo huge and so amazing. Take a look.

P.S. something similar I’m trying to build in my start up, but yet I’m not even close

Нейросеть Codex от OpenAI: увольняйте ваших Data Scientist’ов

Будущее наступило! Нейросеть Codex (gpt 3 для генерации кода) позволяет решать data science задачи на естественном языке!

https://youtu.be/Ru5fQZ714x8

Descent algorithm complexity https://www.quantamagazine.org/computer-scientists-discover-limits-of-major-research-algorithm-20210817/

🤖🏆 SimVLM — Новый CLIP

Представьте себе одну модель, которая может:
- Классифицировать фото
- Отвечать на вопросы по фото
- Дополнять текстовые описания
- Решать задачу «визуального обоснования»
- Выполнять мультимодальный перевод

А самое главное, делать все это в режиме zero-shot (обучение без обучения)!

Встречайте: SimVLM, который по факту является мультимодальной сетью Text + Image (как CLIP), с классической трансформер архитектурой. ViT+Bert энкодер + декодер GPT (см картинку поста).

Такой текстовый-визуальный претрейн сравнили с современными (SOTA) методами, включая LXMERT, VL-T5, UNITER, OSCAR, Villa, SOHO, UNIMO и VinVL.

SimVLM превосходит все существующие модели и бьет SOTA по всем рассматриваемым задачам, часто со значительным отрывом.

Скоро сделаю подробный обзор архитектуры.

📄 paper

#sota #paper #multimodal #zeroshot #сохраненки

CLIP — Главная нейросеть 2021

📄 Детальный разбор CLIP на habr от Мишин Лернинг

Нейросеть CLIP — устойчивый классификатор, который не нужно даже обучать. Кроме того, этой сети нашли десятки разных применений: от нейронного поиска по фото и видео до генеративного искусства, от zero-shot классификации изображений до zero-shot Domain Adaptation для StyleGAN (NADA).

CLIP — это действительно новый взгляд на объединение NLP и CV. Последние несколько лет мы наблюдали триумфы в области обработки естественного языка, и языковые модели действительно наделали много шума, совершив новую революцию и, в очередной раз, отложив новую "зиму" искусственного интеллекта в долгий ящик.

Совсем недавно мы начали наблюдать явление, когда технологии, вроде бы изначально присущие только NLP, стали бить рекорды в компьютерном зрении: Vision Transformers. Теперь методы few-shot и zero-shot learning проникают в сферу компьютерного зрения уже благодаря гибридным nlp и cv моделям.

#сохраненки #статьи #habr

Infinitely Deep Bayesian Neural Nets with Stochastic Differential Equations. Next big thing since Neural ordinary differential equations model. Might become a SOTA for stochastic process forecasting and noisy time-series/signal processing #sde #neuralsde #sota

Happy programmer’s day!!! Have a bug-free code and indulgent project managers.

Починаю свій авторський курс по Data Science - основи часових рядів як куратор і лектор. Завтра записуємо вступну лекцію. Курс закладе основи аналізу та прогнозування часових рядів, фундамент на якому будуються вже більш складні та високо рангові задачі часових рядів. Спойлер, оскільки це перший такий курс в Україні, було прийнято рішення робити його базовим. Наступні будуть вже більш продвинуті у яких розглянемо в том числі стохастичні процеси та глибоке навчання, але основи аналізу часових рядів обов‘язикові для подальшої роботи навіть із глибокими моделями і чому - ми розглянемо на курсі.

Starting my very first Data Science - Timeseries Baseline course as a curator and lector. Will be filming our introductory lecture tomorrow - the basics of time series as a curator and lecturer. Tomorrow we will record the introductory lecture. This course will lay foundations for the time series analysis and forecast, the basis on which are built more complex and highly noisy time series problems. Spoiler, this is first such course in Ukraine, so I decided to give baseline of time series analysis and forecasting. In future courses I’m planning to give a full grasp into deep learning for time series and stochastic process modelling. But all this approaches require baseline techniques.

https://prjctr.online/time-series-baseline.html?gclid=Cj0KCQjwssyJBhDXARIsAK98ITTpnHF_TryL6ymWfCW9pgWbKBQ8stnQ5OxtnpLR7Pj4KA9RNA4nR-saAsx5EALw_wcB

Self-learning agents for pair games by Facebook AI https://ai.facebook.com/research/publications/control-strategies-for-physically-simulated-characters-performing-two-player-competitive-sports

Приходьте на вебінар по часовим рядам, що це взагалі таке і чому вони дуже перспективні, а також які задачі можна за їх допомогою вирішувати. Розглянемо крутий кейс як Apple Watch рятує життя https://prjctr.com/events/time-series-next-big-thing.html

📣 youtube запись вебинара @hav4ik https://youtu.be/aU9yEwgrJ54

One of the best lectures I’ve heard

Ученые показали новый вид алгоритма который автономно управляет дроном в сложных условиях, вроде леса, руин и тп. А самое главное, эта штука уже сейчас спокойно летает на скорости 40 км/ч сквозь лес.

Чтож, хорошо что оно пока само не охотится 🌚

https://youtu.be/RjFA2288AIA крута лекція від Галини Олійник - автора курсу Deep learning for NLP у Проджекторі, а також Senior Data Scientist у Delivery Hero

🦑 Полезные ссылки для старта в Quantum Machine Learning

💡Концепция квантового машинного обучения
🔢 Туториал по quantum neural network (QNN) упрощенного MNIST + colab
🏞 Quantum Convolutional Neural Network: туториал + colab
📰 Paper: Classification with Quantum Neural Networks on Near Term Processors
📄 Paper: TensorFlow Quantum:
A Software Framework for Quantum Machine Learning
📚TensorFlow Quantum TFQ
📼 YouTube: TensorFlow Quantum hybrid quantum-classical machine learning

Time series Classification with CNN on imbalanced classes #imbalance #classification

Time Series baseline approaches & techniques by Jason Brownlee (author of http://machinelearningmastery.com) #book #timeseries