Découvrez GPT-JT, l'alternative open source la plus proche de GPT-3

Ecrit le 06/01/2023
Temps de lecture : 2 minutes
Table des matières

Récemment, Together, une communauté open source dirigée par des chercheurs et des technocrates, a publié une nouvelle version de GPT-JT formée sur six milliards de paramètres. Ce nouveau modèle a été construit en utilisant des techniques et des ensembles de données open source récemment publiés et a été entraîné avec son approche décentralisée sur l'ordinateur de recherche Together.

Contrairement à GPT-3, qui est disponible on-demand/request, GPT-JT est maintenant disponible en Open Source.

Cliquez ici pour accéder aux codes sources et Dataset.

GPT-JT

GPT-JT s'est très bien approché de GPT-3, text-davinci-002 (175B) en termes de performance sur les benchmarks de classification tels que RAFT (suivant le protocole d'évaluation holistique des modèles de langage (HELM)).

 

Together a affirmé que ce nouveau modèle est une variante du précédent GPT-J (6B) et se débrouille bien sur la classification de texte et d'autres tâches. S'appuyant sur la puissance de l'IA open source, l'équipe a déclaré que cela n'aurait pas été possible sans les travaux open source publiés par plusieurs organisations, dont EleutherAI (GPT-J-6B, GPT-NeoX), Google Research (UL2, CoT), Natural-Instructions (NI) dataset d'AllenAI, BigScience's Public Pool of Prompts (P3) dataset, Ought (RAFT) et Stanford CRFM (HELM).

 

Ouvert. Évolutif. Ensemble

Fondée en 2022, Together est un cloud décentralisé pour l'intelligence artificielle qui permet aux chercheurs, développeurs et entreprises de profiter et d'améliorer l'IA avec une plateforme intuitive combinant données, modèles et calcul. L'équipe a déclaré que leur modèle GPT-JT était inspiré par lo-fi et ProxSkip, développé par Ludwig Schmidt, Mitchell Wortsman, Peter Richtárik et d'autres. La société a hébergé ce modèle via HuggingFace, qui est le hub de l'écosystème open source d'IA.

Consultez la démo en direct ici

Une question ? Un besoin ? Un projet ?
PAGE DE CONTACT
Notre sélection d'informations 
web chaque vendredi
Newsletters

Nos experts se tiennent à votre disposition
pour répondre à vos questions
et vous conseiller dans votre projet

Envie d’échanger avec l’un de nos experts ? Besoin d’en savoir plus ? 
Une problématique sur votre site ecommerce ?
Cliquez ici
© 2017-2023 JAG Consulting, sas. Tous droits réservés.
© 2022 JAG Consulting, sas. Tous droits réservés.
google
Brieuc Pauly
08/09/2022

Créative, dynamique et très professionnelle, c'est à mon sens les piliers qui soutiennent cette équipe talentueuse ! Une agence à taille humaine qui privilégie la qualité et le résultat. Alors si vous souhaitez le meilleur pour votre communication adressez vous les yeux fermés à ces passionnés, plus que compétents ! (Translated by Google) Creative, dynamic and very professional, these are in my opinion the pillars that support this talented team! A human-sized agency that favors quality and results. So if you want the best for your communication, turn your eyes closed to these enthusiasts, who are more than competent!

google
Amaury Tardier
08/09/2022

Merci à Julien et son équipe, plus que satisfait par le travail fourni ! Je recommande vivement ! (Translated by Google) Thanks to Julien and his team, more than satisfied with the work provided! I highly recommend !

Ravi de travailler avec l'équipe JAG pour la gestion de mon site de e-Commerce. Equipe réactive et toujours pleine de bonnes idées pour améliorer les performances du site (Translated by Google) Glad to work with the JAG team for the management of my e-Commerce site. Responsive team always full of good ideas to improve the performance of the site

Merci à Julien pour son accompagnement dans mon projet, je recommande à 200% c est le Top (Translated by Google) Thanks to Julien for his support in my project, I recommend 200% it is the top

Excellente agence. Equipe est très pro, à l'écoute et de bon conseils. (Translated by Google) Excellent agency. The team is very professional, attentive and gives good advice.

Temps de réponse hors pair quand il y a eu un pb sur mon site, je vous recommande chaleureusement Julien :-) (Translated by Google) Unparalleled response time when there was a pb on my site, I warmly recommend Julien :-)

Charger plus
list