** Люди обычно считают, что рождение GPT — это момент «iPhone» новой эры **, он станет ключом к новой эре больших моделей ИИ, точно так же, как iPhone привел людей в эру мобильного Интернета.
Однако в процессе бурного развития ** мобильного Интернета учитывались не только достижения iPhone, но и достижения Android и основных производителей мобильных телефонов Android, стоящих за ним. **
Даже с точки зрения поставок вклад лагеря Android в эпоху мобильного Интернета кажется большим.
** А теперь наступает «момент Android», относящийся к большой языковой модели ИИ. **
18 июля по местному времени, рано утром по пекинскому времени, Meta выпустила последнее поколение большой модели с открытым исходным кодом Llama 2.
Согласно общедоступным данным на официальном сайте Meta, выпущенная на этот раз модельная серия Llama 2 включает в себя варианты моделей с тремя параметрами: 7 миллиардов, 13 миллиардов и 70 миллиардов.
Llama 2 был обучен с использованием 2 триллионов токенов и имеет более 1 миллиона данных, аннотированных вручную. По сравнению с Llama 1, Llama 2 имеет на 40 % больше обучающих данных и в два раза больше длины контекста.
После этого обновления, согласно опубликованным документам Meta, хотя Llama 2 все еще уступает GPT-3.5 в различных тестах крупномасштабных моделей, по сравнению с текущими оценками текущей крупномасштабной модели с открытым исходным кодом, она уже достигнут уровень, который вообще забивается.
Сравнение результатов работы Llama 2 с GPT и PaLM
Сравнение результатов работы Llama 2 и других крупных моделей с открытым исходным кодом
Возможно, вы испытаете презрение, когда увидите, что Llama 2 уступает GPT-3.5, ведь последняя эволюционировала до версии 4.0.
Тем не менее, вы должны понимать, что когда Android был впервые запущен, он также был очень коротким, а открытый исходный код позволил лагерю Android конкурировать с iPhone сейчас. **
Поэтому самой большой изюминкой релиза Llama 2 на самом деле является:
** Meta делает шаг вперед на основе открытого исходного кода, позволяя свободно использовать модель в коммерческих целях. ** (Для продуктов с более чем 700 миллионами активных пользователей в месяц необходимо отдельно подать заявку на коммерческое разрешение, но немногие компании могут соответствовать этому стандарту)
Ян Ликунь, лауреат премии Тьюринга и главный научный сотрудник Meta, также заявил в Твиттере, что это изменит структуру рынка моделей больших языков:
Редакционный отдел Zhiwei также связался с Zhiyuan AI Research Institute, который имеет большое влияние как в академических кругах, так и в сообществе открытого исходного кода.Их оценка такова:
**Открытый исходный код — единственный путь. Можно с уверенностью сказать, что выпуск Llama 2 — это «момент Android». Использование открытого исходного кода для завоевания рынка — это конкурентная стратегия. **
В соответствии с коммерческим открытым исходным кодом Llama 2 отношение OpenAI к открытому исходному коду всегда было неоднозначным.
Открытый исходный код, или движение за открытый исходный код, официально началось в конце 1990-х годов.Участники верили в открытый исходный код, обмен информацией и свободное использование программного обеспечения.
Рост Android и популярность GitHub неотделимы от открытого исходного кода. Система Linux также родилась на этой волне движения.Сегодняшние маршрутизаторы, коммутаторы, умные стиральные машины, умные рисоварки, коммутаторы, серверы и другие устройства оснащены практически всеми видами систем Linux.
Включая успешную посадку американского марсохода несколько лет назад, это также символизирует то, что Марс стал второй планетой, на которой количество компьютеров с Linux превышает количество компьютеров с Windows.
Не будет преувеличением сказать, что открытый исходный код сегодня изменил модель сотрудничества и инноваций в программном обеспечении и изменил технологический ландшафт.
Но в области больших языковых моделей лидер OpenAI, кажется, идет вразрез с Open в названии.
Несмотря на то, что основатель OpenAI Сэм Альтман неоднократно публично заявлял, что в будущем откроет исходный код GPT-3 и GPT-4**, это пока пустой чек. **
Даже после того, как Маск вышел из OpenAI, он также много раз публично критиковал OpenAI, недовольный огромной прибылью OpenAI и постепенно закрывая источник.
Суцкевер, главный научный сотрудник OpenAI, ответил, что преждевременный открытый исходный код приведет к тому, что OpenAI потеряет свои лидирующие позиции в технологиях, а мощь большой языковой модели огромна, а открытый исходный код может иметь риски для безопасности.
Маск усомнился в том, что OpenAI не является Open
В отличие от робости OpenAI перед лицом открытого исходного кода, Meta является стойким сторонником открытого исходного кода и в определенной степени продвигает исторический процесс искусственного интеллекта.
И сегодняшнее решение Меты должно быть как-то связано с главным ученым Меты, Ян Ликунем.
Еще в 2014 году Цукерберг осознал перспективность ИИ.После того, как DeepMind была окончательно приобретена Google, Цукерберг развернулся и нашел Ян Ликуня, крупную шишку в академической сфере ИИ.
Ян Ликунь, работавший в знаменитой Bell Labs, был одним из разработчиков «Сверточной нейронной сети», в то время он преподавал в Нью-Йорке.
Согласно сообщениям VOX, чтобы получить Ян Ликуня, великого коня, Цукерберг пообещал, что результаты научных исследований должны быть с открытым исходным кодом, лаборатория должна быть построена в Нью-Йорке, а экспериментальной команде не нужно учитывать рентабельность.
Ян Ликунь многого добился за время своего пребывания в должности, например, разработал всемирно известную платформу искусственного интеллекта Pytorch, улучшил GAN (сеть генеративной конфронтации), запустил большую языковую модель Llama и модель изображения AI SAM и т. д.
** Как было согласовано в те годы, все эти проекты были с открытым исходным кодом. **
На волне больших языковых моделей большая языковая модель Llama также очень популярна в сообществе открытого исходного кода.
В сообществах с открытым исходным кодом, таких как Hugging Face, есть все виды магически модифицированных альпак (лама в китайском переводе — альпака).
В том числе Alpaca Стэнфорда, Vicuna UCB... Появились различные модифицированные модели, основанные на LlamA.
Во многих больших списках бегущей модели, под GPT-3.5 и GPT-4, почти все списки убоя семейства альпака.
Кроме того, Ян Ликунь не согласен с закрытым исходным кодом OpenAI по соображениям безопасности.
По его мнению, единственный способ сделать платформу ИИ безопасной, хорошей и полезной — это открыть ее исходный код. **
Другими словами, технологиям опасно находиться в руках нескольких человек.Только позволяя власти контролировать развитие ИИ в то же время, можно максимально контролировать ИИ.
В настоящее время это может сделать только открытый исходный код.
В общем, на волне больших языковых моделей во главе с OpenAI армия открытого исходного кода во главе с Meta безумно атакует города и земли в сообществе открытого исходного кода.
С другой стороны, конфликт между открытым исходным кодом и закрытым исходным кодом постепенно накаляется.
В мае этого года служебная записка, «случайно» просочившаяся от исследователя Google, положила конец битве.
Редакционный отдел Zhiwei кратко резюмировал ключевые моменты, упомянутые исследователями Google в этой записке:
① AI с открытым исходным кодом вторгается на территорию Google и Open AI;
②Маленькие модели более конкурентоспособны, чем большие;
③ Качество данных гораздо важнее их количества;
④Google не может превзойти открытый исходный код;
⑤ Google нуждается в экосистеме с открытым исходным кодом больше, чем Google с открытым исходным кодом.
Короче говоря, эта красноречивая статья с тысячами слов раскрывает основной посыл:
** Перед лицом открытого исходного кода ни у Google, ни у OpenAI нет рва. **
Итак, оглядываясь назад на Llama 2, выпущенную на этот раз, Meta напрямую сняла ограничения на коммерческое использование, что действительно является еще одной армией для лагеря с закрытым исходным кодом.
Llama2 с открытым исходным кодом не только бесплатен, но и позволяет разработчикам настраивать его самостоятельно, чтобы удовлетворить недорогие и персонализированные потребности большинства коммерческих компаний.
Однако, в конце концов, кто является победителем между открытым исходным кодом и закрытым исходным кодом, редакция Zhiwei считает, что сделать вывод непросто.
В конце концов, открытый исходный код — это не панацея, есть хорошие и плохие разработчики, некоторые риски общественной безопасности и т. д. — все это проблемы, с которыми часто сталкивается открытый исходный код.
В конечном счете, конкуренция между открытым исходным кодом и закрытым исходным кодом — это разные стратегии конкуренции: один уделяет больше внимания расширению рынка и установлению стандартов, а другой — прибыльности и передовым технологиям.
Например, Android и iOS, Linux и Windows могут в итоге не выиграть и не проиграть, а найти свое разумное позиционирование под разные нужды.
Однако нет никаких сомнений в том, что Llama 2 всколыхнула весь рынок и вызвала тонкие изменения в экологии:
① Microsoft, один из акционеров OpenAI, на этот раз стала предпочтительным партнером Llama 2, и Microsoft, похоже, делает ставку на обе стороны.
② Meta объявила, что Llama 2 сможет работать на чипах Qualcomm, что, несомненно, станет проблемой для Nvidia, повелителя чипов AI.
Короче говоря, драма в большом кругу языковых моделей становится все более сложной и интересной.
Если мутная вода, вызванная Llama 2, ускорит наступление эры ИИ, помните, что это не только заслуга Meta, но и заслуга сообщества открытого исходного кода.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Перед лицом открытого исходного кода у OpenAI нет рва: сегодня наступил момент большой модели Android.
Первоисточник: Чживэй
За последние полгода OpenAI всех поразил GPT.
** Люди обычно считают, что рождение GPT — это момент «iPhone» новой эры **, он станет ключом к новой эре больших моделей ИИ, точно так же, как iPhone привел людей в эру мобильного Интернета.
Однако в процессе бурного развития ** мобильного Интернета учитывались не только достижения iPhone, но и достижения Android и основных производителей мобильных телефонов Android, стоящих за ним. **
Даже с точки зрения поставок вклад лагеря Android в эпоху мобильного Интернета кажется большим.
** А теперь наступает «момент Android», относящийся к большой языковой модели ИИ. **
18 июля по местному времени, рано утром по пекинскому времени, Meta выпустила последнее поколение большой модели с открытым исходным кодом Llama 2.
Согласно общедоступным данным на официальном сайте Meta, выпущенная на этот раз модельная серия Llama 2 включает в себя варианты моделей с тремя параметрами: 7 миллиардов, 13 миллиардов и 70 миллиардов.
Llama 2 был обучен с использованием 2 триллионов токенов и имеет более 1 миллиона данных, аннотированных вручную. По сравнению с Llama 1, Llama 2 имеет на 40 % больше обучающих данных и в два раза больше длины контекста.
Возможно, вы испытаете презрение, когда увидите, что Llama 2 уступает GPT-3.5, ведь последняя эволюционировала до версии 4.0.
Тем не менее, вы должны понимать, что когда Android был впервые запущен, он также был очень коротким, а открытый исходный код позволил лагерю Android конкурировать с iPhone сейчас. **
Поэтому самой большой изюминкой релиза Llama 2 на самом деле является:
** Meta делает шаг вперед на основе открытого исходного кода, позволяя свободно использовать модель в коммерческих целях. ** (Для продуктов с более чем 700 миллионами активных пользователей в месяц необходимо отдельно подать заявку на коммерческое разрешение, но немногие компании могут соответствовать этому стандарту)
Ян Ликунь, лауреат премии Тьюринга и главный научный сотрудник Meta, также заявил в Твиттере, что это изменит структуру рынка моделей больших языков:
**Открытый исходный код — единственный путь. Можно с уверенностью сказать, что выпуск Llama 2 — это «момент Android». Использование открытого исходного кода для завоевания рынка — это конкурентная стратегия. **
В соответствии с коммерческим открытым исходным кодом Llama 2 отношение OpenAI к открытому исходному коду всегда было неоднозначным.
Открытый исходный код, или движение за открытый исходный код, официально началось в конце 1990-х годов.Участники верили в открытый исходный код, обмен информацией и свободное использование программного обеспечения.
Рост Android и популярность GitHub неотделимы от открытого исходного кода. Система Linux также родилась на этой волне движения.Сегодняшние маршрутизаторы, коммутаторы, умные стиральные машины, умные рисоварки, коммутаторы, серверы и другие устройства оснащены практически всеми видами систем Linux.
Включая успешную посадку американского марсохода несколько лет назад, это также символизирует то, что Марс стал второй планетой, на которой количество компьютеров с Linux превышает количество компьютеров с Windows.
Но в области больших языковых моделей лидер OpenAI, кажется, идет вразрез с Open в названии.
Несмотря на то, что основатель OpenAI Сэм Альтман неоднократно публично заявлял, что в будущем откроет исходный код GPT-3 и GPT-4**, это пока пустой чек. **
Даже после того, как Маск вышел из OpenAI, он также много раз публично критиковал OpenAI, недовольный огромной прибылью OpenAI и постепенно закрывая источник.
Суцкевер, главный научный сотрудник OpenAI, ответил, что преждевременный открытый исходный код приведет к тому, что OpenAI потеряет свои лидирующие позиции в технологиях, а мощь большой языковой модели огромна, а открытый исходный код может иметь риски для безопасности.
В отличие от робости OpenAI перед лицом открытого исходного кода, Meta является стойким сторонником открытого исходного кода и в определенной степени продвигает исторический процесс искусственного интеллекта.
И сегодняшнее решение Меты должно быть как-то связано с главным ученым Меты, Ян Ликунем.
Еще в 2014 году Цукерберг осознал перспективность ИИ.После того, как DeepMind была окончательно приобретена Google, Цукерберг развернулся и нашел Ян Ликуня, крупную шишку в академической сфере ИИ.
Ян Ликунь, работавший в знаменитой Bell Labs, был одним из разработчиков «Сверточной нейронной сети», в то время он преподавал в Нью-Йорке.
Ян Ликунь многого добился за время своего пребывания в должности, например, разработал всемирно известную платформу искусственного интеллекта Pytorch, улучшил GAN (сеть генеративной конфронтации), запустил большую языковую модель Llama и модель изображения AI SAM и т. д.
** Как было согласовано в те годы, все эти проекты были с открытым исходным кодом. **
На волне больших языковых моделей большая языковая модель Llama также очень популярна в сообществе открытого исходного кода.
В сообществах с открытым исходным кодом, таких как Hugging Face, есть все виды магически модифицированных альпак (лама в китайском переводе — альпака).
В том числе Alpaca Стэнфорда, Vicuna UCB... Появились различные модифицированные модели, основанные на LlamA.
По его мнению, единственный способ сделать платформу ИИ безопасной, хорошей и полезной — это открыть ее исходный код. **
Другими словами, технологиям опасно находиться в руках нескольких человек.Только позволяя власти контролировать развитие ИИ в то же время, можно максимально контролировать ИИ.
В настоящее время это может сделать только открытый исходный код.
В общем, на волне больших языковых моделей во главе с OpenAI армия открытого исходного кода во главе с Meta безумно атакует города и земли в сообществе открытого исходного кода.
С другой стороны, конфликт между открытым исходным кодом и закрытым исходным кодом постепенно накаляется.
В мае этого года служебная записка, «случайно» просочившаяся от исследователя Google, положила конец битве.
① AI с открытым исходным кодом вторгается на территорию Google и Open AI;
②Маленькие модели более конкурентоспособны, чем большие;
③ Качество данных гораздо важнее их количества;
④Google не может превзойти открытый исходный код;
⑤ Google нуждается в экосистеме с открытым исходным кодом больше, чем Google с открытым исходным кодом.
Короче говоря, эта красноречивая статья с тысячами слов раскрывает основной посыл:
** Перед лицом открытого исходного кода ни у Google, ни у OpenAI нет рва. **
Итак, оглядываясь назад на Llama 2, выпущенную на этот раз, Meta напрямую сняла ограничения на коммерческое использование, что действительно является еще одной армией для лагеря с закрытым исходным кодом.
Llama2 с открытым исходным кодом не только бесплатен, но и позволяет разработчикам настраивать его самостоятельно, чтобы удовлетворить недорогие и персонализированные потребности большинства коммерческих компаний.
Однако, в конце концов, кто является победителем между открытым исходным кодом и закрытым исходным кодом, редакция Zhiwei считает, что сделать вывод непросто.
В конце концов, открытый исходный код — это не панацея, есть хорошие и плохие разработчики, некоторые риски общественной безопасности и т. д. — все это проблемы, с которыми часто сталкивается открытый исходный код.
В конечном счете, конкуренция между открытым исходным кодом и закрытым исходным кодом — это разные стратегии конкуренции: один уделяет больше внимания расширению рынка и установлению стандартов, а другой — прибыльности и передовым технологиям.
Например, Android и iOS, Linux и Windows могут в итоге не выиграть и не проиграть, а найти свое разумное позиционирование под разные нужды.
Однако нет никаких сомнений в том, что Llama 2 всколыхнула весь рынок и вызвала тонкие изменения в экологии:
① Microsoft, один из акционеров OpenAI, на этот раз стала предпочтительным партнером Llama 2, и Microsoft, похоже, делает ставку на обе стороны.
② Meta объявила, что Llama 2 сможет работать на чипах Qualcomm, что, несомненно, станет проблемой для Nvidia, повелителя чипов AI.
Короче говоря, драма в большом кругу языковых моделей становится все более сложной и интересной.
Если мутная вода, вызванная Llama 2, ускорит наступление эры ИИ, помните, что это не только заслуга Meta, но и заслуга сообщества открытого исходного кода.