Otter.ai, éditeur d’une solution de transcription, a annoncé le lancement d'AI Chat, un outil de réunion alimenté par l'IA, capable de fournir une assistance en temps réel sous forme de questions-réponses et de générer du contenu spécifique à la réunion. AI Chat agit comme un participant, en répondant aux questions, en travaillant avec les participants et en générant du contenu basé sur les données fournies pendant les discussions. Les utilisateurs peuvent s'envoyer des messages les uns aux autres et au chat via cette fonction.

Selon une étude récente menée par Otter.AI, plus de 70 % des professionnels utilisent déjà une forme d'IA dans leur travail et plus de 86 % pensent que leur travail sera très différent d'ici un an, car les outils d'IA vont révolutionner la façon dont les équipes travaillent et collaborent. L'étude a porté sur 1 500 employés de bureau basés aux États-Unis et au Royaume-Uni, issus de différents secteurs d'activité.

Face aux LLM, Otter.ai choisit des données internes

La plupart des technologies d'IA qui ont fait les gros titres récemment se présentent sous la forme de grands modèles de langage (LLM), tels que ChatGPT, qui sont formés à partir de données publiques ou de l'Internet. Cela signifie qu'ils ne disposent pas des connaissances internes d'une entreprise, a déclaré Sam Liang, cofondateur et CEO d'Otter.ai. Les LLM permettent une interaction entre une seule personne et un modèle d'IA, une dynamique très différente de la réalité que nous observons dans la plupart des réunions, où plusieurs personnes parlent les unes aux autres. « C'est pourquoi nous avons conçu un autre modèle de chat qui prend en charge le chat IA à plusieurs interlocuteurs, faisant de l'IA un participant et l'impliquant dans la conversation », a-t-il déclaré.

AI Chat a trois fonctions principales : fournir des réponses, faciliter la collaboration et générer du contenu. Alors que presque toutes les entreprises développant des applications de productivité ont lancé depuis le début de l'année des capacités de résumé alimentées par l'IA, la fonction d'Otter se distingue par le fait qu'elle peut résumer et répondre à des questions sur ce qui se dit dans les réunions en temps réel, plutôt que de fournir un aperçu des documents écrits ou un résumé d'une réunion après qu'elle a eu lieu, selon l'entreprise. Lors des réunions auxquelles AI Chat participe, les participants pourront interroger l'outil sur les points de discussion ou les décisions clés prises précédemment au cours de la réunion - par exemple, si des questions ont été posées au sujet d'un projet ou d'un événement spécifique. Grâce au contexte disponible dans la transcription automatisée, AI Chat sera en mesure de fournir des réponses.

Interrogé à propos de précédents échanges dans une réunion ou une conversation, Otter AI Chat fournira instantanément des réponses à partir du contexte disponible dans la discussion. (Crédit : Otter.ai)

Un outil complémentaire en réunion 

En outre, au cours d'une réunion, les participants peuvent communiquer par écrit entre eux et avec AI Chat pour demander des éclaircissements sur des points particuliers, sans interrompre la réunion pour poser des questions à haute voix. Une fois les réunions terminées, l'outil peut générer des actions, des résumés, des courriels de suivi, des articles de blog et d'autres contenus dont les participants pourraient avoir besoin après la réunion. « AI Chat connaît les données relatives aux réunions de l'utilisateur, ce qui lui permet d'offrir un service plus personnalisé aux utilisateurs », indique Sam Liang. Selon Otter, la plateforme utilise son IA pour transcrire plus d'un million de mots prononcés chaque minute, fournissant ainsi une source de données pour le développement de ce que Sam Liang appelle de grands modèles de langage parlé.

Ce modèle est basé sur des millions d'heures de données conversationnelles, explique Sam Liang, ajoutant que cela rend le modèle plus difficile à développer car les données conversationnelles présentent de nombreuses différences par rapport aux documents écrits sur lesquels les LLM traditionnels sont formés. « Les documents écrits sont généralement plus formels, ils sont très systématiques et ont une certaine structure », a-t-il déclaré. « L'intonation et le sentiment font une grande différence, car même le même mot dit d'une manière différente peut avoir des significations différentes ». Sam Liang précise que si Otter a adopté le terme « Large Spoken Language Model », cela ne signifie pas que ce type de modèle sera utilisé exclusivement par l'entreprise, mais qu'Otter est en mesure d'avancer rapidement dans le développement de la technologie parce qu'elle dispose déjà d'un ensemble de données massives de réunions transcrites, facilement disponibles à des fins de formation. « Nous disposons d'un avantage considérable », ajoute-t-il.

AI Chat peut générer du contenu spécifique à une réunion pour transformer cette réunion en action. En utilisant la réunion comme modèle de langage d'IA, l'outil peut disséquer le contenu de la réunion pour fournir instantanément des éléments d'action, des résumés et un suivi. (Crédit : Otter.ai)

Une combinaison de ses propres systèmes et d’API externes

Les capacités de transcription et de résumé d'Otter AI Chat ont toutes été développées en interne et l'entreprise utilise une combinaison de ses propres systèmes et de certaines API externes pour la construction de son modèle de langage parlé étendu. Sur ce point, Sam Liang a déclaré que des accords de confidentialité ont été signés et ne peut donc pas donner la liste des fournisseurs tiers. Il souligne aussi que, dès le premier jour, Otter a mis en place des politiques strictes en matière de sécurité et de confidentialité. Elles garantissent que l'utilisateur est propriétaire de tout et que les données ne peuvent être utilisées à des fins de formation que si l'utilisateur y consent expressément.

En outre, toutes les données traitées par Otter AI Chat sont uniquement stockées dans Otter et ne peuvent être utilisées par aucun des fournisseurs tiers dont les API ont été déployées. AI Chat commencera à être déployé pour les utilisateurs à partir d'aujourd'hui, et tous les utilisateurs devraient avoir accès à la fonctionnalité dans les sept jours suivants. AI Chat sera disponible pour tous les utilisateurs, quelle que soit leur formule, mais les utilisateurs gratuits seront limités à cinq questions par réunion. Les utilisateurs payants n'auront aucune limite.