L’une des ambitions apparentes d’Apple en matière d’IA est de permettre à un chatbot intégré de fonctionner sur les iPhones, plutôt que d’utiliser des serveurs pour effectuer le traitement. Celui-ci serait capable d’accéder aux données stockées sur votre iPhone, ainsi que de renforcer la confidentialité…
Nvidia a adopté la même approche, avec un chatbot qui fonctionne sur un PC Windows – naturellement équipé de l’un des GPU haut de gamme de l’entreprise.
Apple travaille sur un chatbot intégré pour iPhone
Un document de recherche d’Apple publié à la fin de l’année dernière semblait indiquer que l’entreprise permettait à un chatbot intégré de fonctionner sur un iPhone.
Le document vise à minimiser la quantité de données qui doivent être transférées du stockage flash vers la RAM. LLM est le terme générique désignant les systèmes de chat IA qui ont été formés sur de grandes quantités de texte.
Cette approche permet aux LLM de s’exécuter jusqu’à 25 fois plus rapidement sur des appareils dotés de RAM limitée.
Bien que le document ne révèle aucun détail sur les projets d’Apple, il y a de plus en plus d’indications selon lesquelles iOS 18 est le moment où la société lancera enfin une version beaucoup plus puissante de Siri, en utilisant le type de technologie d’IA générative baptisée AppleGPT. La prochaine version d’iOS, qui devrait être dévoilée à la WWDC en juin, serait la plus grande mise à jour de l’histoire de l’entreprise.
Chatbot Nvidia sur l’appareil
Nvidia a déjà créé une version démo d’un chatbot sur l’appareil, mais qui nécessite un PC Windows avec l’une des cartes GPU premium de l’entreprise.
Chat With RTX est une application de démonstration qui vous permet de personnaliser un modèle de langage étendu (LLM) GPT connecté à votre propre contenu : documents, notes, vidéos ou autres données. En tirant parti de la génération augmentée par récupération (RAG), de TensorRT-LLM et de l’accélération RTX, vous pouvez interroger un chatbot personnalisé pour obtenir rapidement des réponses contextuellement pertinentes. Et comme tout s’exécute localement sur votre PC ou poste de travail Windows RTX, vous obtiendrez des résultats rapides et sécurisés (…)
Chat avec RTX prend en charge différents formats de fichiers, notamment texte, pdf, doc/docx et XML. Pointez simplement l’application vers le dossier contenant vos fichiers et elle les chargera dans la bibliothèque en quelques secondes. De plus, vous pouvez fournir l’URL d’une playlist YouTube et l’application chargera les transcriptions des vidéos dans la playlist, vous permettant d’interroger le contenu qu’elles couvrent.
Votre machine Windows aura besoin d’un GPU NVIDIA GeForce RTX 30 ou 40 Series, ou d’un GPU RTX Ampere ou Ada Generation avec au moins 8 Go de VRAM.
ChatGPT se souviendra peut-être enfin de vous
Dans d’autres actualités sur l’IA, ChatGPT obtient un souvenir – du moins, pour un petit nombre d’utilisateurs.
L’une des limites de ChatGPT à ce jour est que chaque session s’exécute de manière isolée, c’est-à-dire qu’elle ne se souvient de rien de ce que vous avez fait lors des sessions précédentes.
OpenAI teste actuellement une version capable de mémoriser certaines données et préférences, pour une expérience plus cohérente dans le temps.
Nous testons la mémoire avec ChatGPT. Se souvenir des sujets dont vous discutez dans toutes les discussions vous évite d’avoir à répéter des informations et rend les conversations futures plus utiles.
Vous contrôlez la mémoire de ChatGPT. Vous pouvez lui dire explicitement de se souvenir de quelque chose, lui demander ce dont il se souvient et lui dire d’oublier par conversation ou via les paramètres. Vous pouvez également le désactiver complètement (…)
La mémoire de ChatGPT s’améliorera au fur et à mesure que vous l’utiliserez et vous commencerez à remarquer des améliorations au fil du temps. Par exemple:
- Vous avez expliqué que vous préfériez que les notes de réunion contiennent des titres, des puces et des actions résumées en bas. ChatGPT s’en souvient et récapitule les réunions de cette façon.
- Vous avez dit à ChatGPT que vous possédez un café de quartier. Lors de la réflexion sur la messagerie pour une publication sociale célébrant un nouvel emplacement, ChatGPT sait par où commencer.
- Vous mentionnez que vous avez un enfant en bas âge et qu’elle adore les méduses. Lorsque vous demandez à ChatGPT de l’aider à créer sa carte d’anniversaire, cela suggère une méduse portant un chapeau de fête.
- En tant qu’enseignante en maternelle avec 25 élèves, vous privilégiez les cours de 50 minutes avec des activités de suivi. ChatGPT s’en souvient lorsqu’il vous aide à créer des plans de cours.
La société affirme qu’elle est testée avec un petit nombre d’utilisateurs cette semaine et qu’elle partagera des plans de déploiement plus larges une fois qu’elle aura évalué les résultats.
FTC : Nous utilisons des liens d’affiliation automatique générateurs de revenus. Plus.
