Ссылка на презентацию: [ Ссылка ]
Мой телеграм канал: [ Ссылка ]
Список всех моих образовательных материалов, статей, лекций итд: [ Ссылка ]
В этом докладе мы разберемся, что такое SuperAlignment, почему он так интересен исследователям из OpenAI, и что они будут делать для того, чтобы решить проблему.
Всего мы рассмотрим 8 направлений, в рамках которых, как мне видится из открытых источников, OpenAI сосредоточят усилия. Мы поговорим и про развитие hardware, и про смену парадигмы "ИИ ассистентов", и даже про аналогии между языком и играми вроде Го и шахмат.
Подпишитесь на наш канал, чтобы не пропустить новые видео о машинном обучении и искусственном интеллекте. Не забудьте поставить лайк и поделиться этим видео с друзьями, если оно вам понравилось. Если у вас возникнут вопросы или предложения, оставляйте их в комментариях!
Timeline:
00:00:00 Intro
00:00:42 Lecture Plan
00:02:21 Discussions around AI in the world
00:04:35 Current progress in Alignment (GPT-4)
00:11:36 Why SUPER Alignment?
00:16:38 Sam Altman and Ilya Sutskever on "How big we should dream"
00:19:19 The True Problem with Alignment Research
00:23:29 A Possible Solution for the problem
00:25:55 Direction 1: Scalable Feedback Collection
00:33:52 Direction 2: Multimodality and Web-Scale Datasets
00:39:12 Direction 3: Verification Tools
00:44:36 Direction 4: knowledge accuracy and hallucinations
00:50:49 Direction 5: AlphaGo-like tricks
00:58:51 Direction 6: Hardware
01:03:48 Direction 7: Explainability
01:07:30 Direction 8: predictable scaling
01:10:16 Predictions & Outro
----
#alignment #chatgpt #openai #ai #rlhf #Трансформеры #Машинноеобучение #Искусственныйинтеллект #NLP #DeepLearning #AI #NeuralNetworks #NaturalLanguageProcessing #MachineLearningAlgorithms #DataScience #LanguageModels #ML #GPT #OpenAI #MLengineers #chatgpt #attention #attentionisallyouneed #rlhf #rl #humanfeedback #ai #deeplearning #GPT3 #gpt4 #gpt3.5 #claude #anthropic #alignment #rlfaif #samaltman #superalignment #alignment #janleike
