Получи случайную криптовалюту за регистрацию!

DLStories | Нейронные сети и ИИ

Логотип телеграм канала @dl_stories — DLStories | Нейронные сети и ИИ D
Логотип телеграм канала @dl_stories — DLStories | Нейронные сети и ИИ
Адрес канала: @dl_stories
Категории: Технологии
Язык: Русский
Количество подписчиков: 13.15K
Описание канала:

Новинки искусственного интеллекта и нейронных сетей. Разборы статей.
Ну а вообще, посчу, что захочу :)
Сотрудничество/предложения: @atmyre
Поддержать: https://t.me/dl_stories/521

Рейтинги и Отзывы

2.50

2 отзыва

Оценить канал dl_stories и оставить отзыв — могут только зарегестрированные пользователи. Все отзывы проходят модерацию.

5 звезд

0

4 звезд

0

3 звезд

1

2 звезд

1

1 звезд

0


Последние сообщения 11

2022-01-07 18:22:14 Микрософт опубликовал классную работу про обучение на синтетических данных в случае распознавания лиц. Более того, датасет из 100 000 автоматически размеченных изображений лиц открыт для использования всеми исследователями.
Важность же в том, что на практике доказана возможность эффективного обучения на датасетах, в которых вообще нет персональных данных, а проблемы искажений выборки и разметки, о которых сломано столько копий (diversity и пр.) отсутствуют by design.
https://microsoft.github.io/FaceSynthetics/
О том, что синтетические данные в ML — большой тренд 2022, писал ещё в конце прошлого года; жаль, что редакторы Форбса ради кликабельности заменили заголовок на хайповый, но не отражающий суть текста.
https://www.forbes.ru/tekhnologii/444703-fejkovyj-mir-pocemu-tehnologia-dipfejkov-stanet-glavnoj-v-2022-godu
1.1K views15:22
Открыть/Комментировать
2022-01-04 18:50:51
GPT для чайников: от токенизации до файнтюнинга

Сделал для вас небольшой colab туториал про GPT. Там подробно и с примерами разобраны такие темы как:
1. Устройство GPT-1,2,3
2. Токенизация
3. Методы генерации текста
4. Файнтюнинг (прям в колабе)
Если вы давно хотели поиграться с GPT, но всё не доходили руки, то новогодние праздники — самое время

Colab
1.1K views15:50
Открыть/Комментировать
2022-01-04 00:04:52 ^ как обычно, нужно результаты ещё проверить. Ато бывают такие статьи, где какая-то очень простая идея типа взлетает, а на поверку... Так что прочитайте саму статью перед тем, как охать (я ещё не читала)
1.1K views21:04
Открыть/Комментировать
2022-01-04 00:03:45
PoolFormer: учёные заменили атеншн обычным пулингом и что из этого вышло...

Новая статья-упрощение трансформеров. Авторы взяли и заменили атеншн на AvgPool со страйдом 1. И результаты на многих бенчмарках из компьютерного зрения оказались лучше. Более того, такая сеть требует меньше ресурсов.

Так что "Attention is all you need" – суждение не совсем верное, по крайне мере, для задач из области зрения. Для NLP нужно ещё проверить.

>> Статья >> Код
1.0K views21:03
Открыть/Комментировать
2022-01-03 16:16:52 Что ж, с наступившим!
Новый год — время, когда все подводят итоги ушедшего года и планируют наступающий. Сфера AI — не исключение. Forbes составил список из 10 предсказаний в сфере AI на 2022 год. Полный список с пояснениями каждого — тут. Я приведу самые интересные из них, на мой взгляд:

1. Главное внимание в AI будет приковано к сфере NLP: большеинство финансирования получают AI-стартапы, которые предлагают решения в NLP.
Это ожидается по двум причинам. Первая: язык — универсальная штука; он пронизывает все аспекты любой деловой активности во всех бизнес-секторах, поэтому автоматизация этой области очень желанна для бизнеса. Вторая — это недавние большие прорывы в области NLP моделей (GPT, BERT, ...). Эти две причины делают AI for NLP супер бурно развивающейся сферой.
Также эксперты ожидают, что два главных NLP-стартапа — Hugging Face и Cohere — получат статус единорогов в 2022 году.

3. По крайне мере три AI-стартапа в области климата (climate tech) станут единорогами.
Это интересно: это говорит о том, что к проблеме изменения климата приковано огромное внимание и что AI таки способен помочь нам в борьбе с ней.

4. AI в области видео достигнет новых высот.
В Cisco предрекают, что в 2022 около 80% данных в интернете будут в формате видео. Поэтому видео — важная составляющая нашей жизни, а это сподвигнет развивать AI в этой области. Благо, мы уже достигли того технического прогресса, когда обучать AI для видео уже не так долго и больно.

5. Будет построена NLP-модель с >10 триллионов параметров.
Без комментариев, охотно верю))

6. Практически прекратятся сотрудничество и инвестиции между американскими и китайскими участниками в области AI.
Короче говоря, AI станет одним из главных инструментов борьбы за доминирование между Китаем и США. Новая гонка вооружений. Уже появляются первые звоночки: США вносят многие AI-компании Поднебесной в черные списки для инвестирования и наоборот: запрещают Китаю инвестировать в AI-бизнес США.

7. Будет все больше инициатив в построении синтетических данных для обучения AI-моделей.
Мы строим все более тяжелые AI-модели, которые требуют все больше данных для обучения. Добыча данных — дело непростое. Поэтому, предрекает Forbes, мы все более активно будем использовать синтетические данные и изобретать более изощренные способы эти данные генерировать (чтобы избежать проблемы domain shift).
К 2024 году ожидается, что около 60% данных для обучения AI во всем мире будут синтетическими.

8. Торонто войдет в статус самого влиятельного AI-хаба за пределами Кремниевой Долины и Китая.
Берите на заметку: туда стекаются многие крутые деятели AI, базируются новые стартапы и компании и там хантят хороших специалистов.

10. RL станет лидирующей парадигмой в AI.
Сейчас большинство AI-моделей обучаются с помощью supervised learning, а RL воспринимается как слегка отдельно стоящая область AI, которая решает другие задачи. Эксперты Forbes ожидают (и я не удивлюсь, если так оно и будет), что парадигма RL будет захватывать все больше внимания и сфер AI, и идеи RL будут использоваться практически во всех задачах.

Вот такие предскзаания Forbes. У меня есть несколько своих, опишу их в следующем посте.
Теперь ваша очередь) Пишите в комментариях, чего вы ожидаете от AI в 2022 году
746 viewsedited  13:16
Открыть/Комментировать
2021-12-30 19:01:00 В телеграме появились реакции к постам!
Будет круто, если будете ставить их на посты, чтобы я видела, какие заходят, а какие — нет

P.S. С наступающим! Исполнения ваших желаний) посты тут начну писать со второго января, а пока желаю всем отлично отдохнуть и набраться сил) отдых — это суперважно
1.2K views16:01
Открыть/Комментировать
2021-12-29 16:28:09
Прикольный новогодний квиз-бот!

Neural Christmas Quiz — бот, который с помощью нейросетей Dream и ruDALL-E генерирует постеры к рождественским фильмам, а вам нужно угадать, какому фильму соответствует постер!

Как думаете, какой верный ответ к картинке к посту?)
1.9K viewsedited  13:28
Открыть/Комментировать
2021-12-24 10:02:01
Смотрите, какая милая штука: комикс-эссе под названием "Нам надо поговорить, ИИ"

В комиксе обсуждаются насущные проблемы и вопросы, связанные с ИИ: как ИИ развивается, как используется во благо и во вред, что будет дальше, какие риски и нюансы возникают при использовании ИИ в разных сферах. Все емко, понятно, с картинками) Классно для общего понимания вектора развития области, заставит задуматься о важном.

Ссылки:
официальный сайт
английская версия комикса
русская версия комикса
1.3K views07:02
Открыть/Комментировать
2021-12-23 17:01:50
Хочешь узнать первым как нейроинтерфейс Илона Маска научит тебя читать мысли других людей?

Подпишись на Neuralink!
Все о возможностях передовых нейроинтерфейсов можешь узнать прямо сейчас
#промо
1.1K views14:01
Открыть/Комментировать
2021-12-22 15:24:47 ^ как-то я пропустила эту новость. А это интересно: очередная нейронка, которая умеет в поиск.
Об идее создать поисковик полностью на основе AI и какие там возникают проблемы, я писала тут. Если вкратце — проблема в том, что GPT-3 может врать и не может выдать источник своих слов.

А тут — пост про модель RETRO от DeepMind, которая может "пояснять за базар": выдавать ссылки на источники, которые легли в основу ответа RETRO на заданный вопрос. Это как бы приближает нас к созданию поисковиков на основе AI) И RETRO вышла совсем-совсем недавно (см. дату поста). А тут вот, и OpenAI подтянулись.

Как же AI быстро развивается, с ума сойти
1.1K viewsedited  12:24
Открыть/Комментировать