Llamafile ofrece unha maneira sinxela de executar grandes modelos de linguaxe na túa propia máquina. Llamafile é o último proxecto de Mozilla destinado a simplificar a distribución e execución dos grandes modelos de linguaxe.

Combina a potencia de llama.cpp, un marco de chatbots LLM de código aberto, con Cosmopolitan Libc, unha biblioteca C versátil que asegura compatibilidade entre unha ampla variedade de plataformas. Unha ferramenta que pode transformar os pesos complexos dos modelos en arquivos facilmente executables que funcionan en varios sistemas operativos sen necesidade de instalación.

Llamafile pode tomar un modelo de aprendizaxe automática en formato GGUF e convertilo nun arquivo executable en diferentes sistemas operativos.

Mozilla mencionou que:

“O noso obxectivo é facer que os modelos de linguaxes grandes de código aberto sexan moito máis accesibles tanto para os desenvolvedores como para os usuarios finais. Estamos a facelo combinando llama.cpp con Cosmopolitan Libc nun marco que colapsa toda a complexidade dos LLM nun único arquivo executable (chamado «llamafile») que se executa localmente na maioría das computadoras, sen instalación.”

“Supoñamos que tes un conxunto de pesos LLM en forma de arquivo de 4 GB (no formato GGUF de uso común). Con llamafile podes transformar ese arquivo de 4GB nun binario que se executa en seis sistemas operativos sen necesidade de instalación.”

Tedes as instruccións de instalación e funcionamento no seu github.

Características principais

• Multiplataforma: Funciona en macOS, Windows, GNU/Linux, FreeBSD, OpenBSD e NetBSD, compatible con varias arquitecturas de CPU e aceleración por GPU.
• Eficiencia e rendemento: Utiliza tinyBLAS para unha aceleración por GPU fluída e optimizacións recentes para un rendemento eficiente en CPU, facendo a IA local máis accesible.
• Facilidade de uso: Converte os pesos dos modelos en arquivos executables cun só comando, simplificando o despregamento.
• Código aberto e impulsado pola comunidade: Licenciado baixo Apache 2.0, promovendo as contribucións da comunidade e melloras continuas.
• Integración con outras plataformas: Soporta pesos externos, adaptable a diversos casos de uso e compatible con proxectos de IA en plataformas como Hugging Face.

Usabilidade e rendemento

Para un procesamento máis rápido, podes usar a GPU do teu ordenador. Isto require instalar os controladores apropiados (NVIDIA CUDA para GPUs NVIDIA) e engadir un flag durante a execución (consulta a documentación de Llamafile para máis detalles).

A experiencia pode variar segundo o hardware; aqueles que teñen GPUs discretas probablemente verán un mellor rendemento que os que usen gráficos integrados. Aínda así, a capacidade de Llamafile para executar LLMs directamente no teu dispositivo significa que non precisas depender de caros servizos en nube. Isto non só mantén os teus datos privados e seguros, senón que tamén reduce o tempo de resposta, facendo que as interaccións de IA sexan máis rápidas e flexibles.

Vídeo

Continuamos coa publicación de artigos sobre proxectos libres relacionados coa Intelixencia Articial.

Co lanzamento dos seus primeiros modelos de linguaxe extensa (LLM), o proxecto EuroLLM pretende ofrecer un modelo LLM multilingüe e multimodal competitivo para os 24 idiomas oficiais europeos.

Iniciado en setembro de 2024 e publicado baixo a licenza de código aberto Apache 2.0, os primeiros modelos de EuroLLM exemplifican como a intelixencia artificial (IA) pode adaptarse á diversidade lingüística de Europa, fomentando ao mesmo tempo un ecosistema europeo innovador en IA.

Os primeiros modelos de EuroLLM, o EuroLLM-1.7B e o seu modelo complementario de afinación, EuroLLM-1.7B-Instruct, teñen como obxectivo proporcionar aos usuarios europeos un LLM competitivo que poida recibir indicacións e xerar texto en todos os idiomas oficiais europeos.

Os LLM establecidos adoitan centrarse no inglés e noutros poucos idiomas amplamente falados. En cambio, EuroLLM propón unha solución enfocada a unha ampla variedade de linguas faladas.

Para crear capacidades multilingües e multimodais, EuroLLM adestrou o seu modelo EuroLLM-1.7B cun amplo conxunto de datos que inclúe 4 billóns de tokens, representando diferentes fontes de datos e todos os idiomas considerados. Para a afinación en tarefas de instrución, desenvolveuse o modelo EuroLLM-1.7B-Instruct empregando EuroBlocks, un conxunto de datos multilingües creado por EuroLLM para estas tarefas.

O EuroLLM-1.7B-Instruct destacou especialmente ao superar o rendemento de Gemma-2B, o modelo “aberto” de Google baseado na mesma investigación que os seus modelos Gemini.

Desenvolvendo LLM dispoñibles en todos os idiomas oficiais europeos, así como noutros idiomas importantes como o ruso, o árabe e o chinés, EuroLLM proporciona aos usuarios europeos e globais acceso a tecnoloxía de IA competitiva nos seus idiomas preferidos.

EuroLLM é un proxecto cofinanciado pola Unión Europea e conformado por un consorcio de nove socios, incluíndo universidades europeas de prestixio, laboratorios técnicos de investigación establecidos e empresas especializadas en tradución con IA, tanto de Europa como doutros lugares. O proxecto tamén está vinculado á Empresa Común Europea de Computación de Alto Rendemento (EuroHPC JU), formando parte dun obxectivo estratéxico máis amplo: crear un ecosistema de IA europeo competitivo e innovador.

Coa publicación dos seus modelos baixo unha licenza de código aberto, que inclúe pesos abertos, o proxecto ten o potencial de fomentar a innovación europea no ámbito da intelixencia artificial de código aberto.

Presentándose como un proxecto de “código aberto” e “pesos abertos”, os modelos de EuroLLM foron publicados en HuggingFace tras o seu lanzamento. A decisión de abrir os modelos proporciona unha base para un desenvolvemento innovador posterior e demostra como as infraestruturas de supercomputación da UE poden ser utilizadas para impulsar a innovación aberta.

Vídeo

A Open Source Initiative (OSI) uniuse a outros colectivos para lanzar o Open Forum for AI (OFAI), cun enfoque centrado nas persoas para o desenvolvemento da IA. Unha iniciativa deseñada pola Universidade Carnegie Mellon (CMU) para promover un enfoque centrado nas persoas para a intelixencia artificial.

OFAI ten como obxectivo mellorar a nosa comprensión da IA e o seu potencial para aumentar as capacidades humanas, ao mesmo tempo que promove prácticas de desenvolvemento responsables.

No centro de OFAI está o compromiso de asegurar que o desenvolvemento da IA sirva ao interese público. Co apoio de socios de renome como Omidyar Network, NobleReach Foundation e o financiamento interno de CMU, OFAI está en posición de ser unha plataforma clave para moldear estratexias e políticas de IA que prioricen a seguridade, a privacidade e a equidade.

Stefano Mafulli e Deb Bryant da OSI participarán en OFAI, integrando os seus esforzos cara a unha definición estándar de IA de Código Aberto a través dun proceso colaborativo que inclúa actores da comunidade de código aberto, a industria e o ámbito académico, así como as súas contribucións ás políticas públicas.

Participantes notables como Michele Jawando de Omidyar Network e Arun Gupta de NobleReach Foundation subliñaron a importancia da IA de Código Aberto para impulsar a innovación e a inclusión, así como a necesidade dun enfoque centrado nas persoas e baseado na confianza para o desenvolvemento da IA.

OFAI ten como obxectivo influír nas políticas de IA mediante a coordinación de obxectivos de investigación e política, defendendo un desenvolvemento de IA transparente e inclusivo.

A iniciativa centrarase en cinco áreas clave:

– Investigación

– Prototipos técnicos

– Recomendacións políticas

– Compromiso comunitario

– Talento ao servizo

Un dos proxectos fundacionais de OFAI é a creación dun marco de “Apertura na IA”, que busca facer o desenvolvemento da IA máis transparente e inclusivo. Este marco servirá como un recurso vital para os responsables políticos, investigadores e a comunidade en xeral.

Vídeo sobre o Open Forum for AI

Continuamos coa publicación de artigos sobre proxectos libres relacionados coa Intelixencia Articial.

Despois de levar o sistema Braille ao mundo dixital e crear o primeiro lector de pantalla para a web, a Dra. Asakawa está traballando nun dispositivo con intelixencia artificial para axudar ás persoas cegas a navegar polo mundo de forma independente, un sistema de navegación interior chamado a Maleta IA:

“Cando comecei en IBM en 1985, decateime de que a tecnoloxía ten o poder de cambiar e mellorar a nosa calidade de vida, especialmente para aquelas persoas que están marxinalizadas pola sociedade,” di a Dra. Chieko Asakawa, membro de IBM e directora executiva do Museo Nacional de Ciencia e Innovación Emerxente (Miraikan).

“Decateime de que nós, é dicir, científicos, investigadores, enxeñeiros, e outros, podiamos facer o imposible posible. Estaba emocionada polas posibilidades.”

Dende entón, a Dra. Asakawa fixo precisamente iso, desenvolvendo tecnoloxías que permiten ás persoas con discapacidades visuais interactuar co mundo que as rodea e participar nel de maneiras que anteriormente eran difíciles ou imposibles.

Algúns dos seus primeiros proxectos en IBM consistiron en dixitalizar o sistema Braille, o sistema de lectura e escritura baseado no tacto no que os puntos en relevo corresponden á linguaxe, creando un procesador de texto e unha biblioteca dixital para Braille. Nos anos 90, co emerxer da web, a Dra. Asakawa viu outra oportunidade e creou o Home Page Reader, o primeiro lector de pantalla que daba acceso a Internet ás persoas cegas.

A medida que a tecnoloxía avanzou, tamén o fixeron as aspiracións da Dra. Asakawa, e recentemente traballou no uso da tecnoloxía para axudar con barreiras de accesibilidade moito máis complexas: o mundo en xeral. Parte de construír estas tecnoloxías, explica ela, é a capacidade de colaborar con outros. Por exemplo, o feedback que recibiu dos usuarios de Home Page Reader axudou a definir a interface de navegación, que utilizaba un teclado numérico en lugar dun rato, e distinguía as ligazóns do texto normal léndoas cunha voz diferente.

O software libre está permitindo máis colaboración ca nunca. As licenzas abertas permiten que as persoas constrúan sobre o código dos demais e desbloqueen moitos dos problemas de propiedade intelectual que poderían impedir a colaboración a través dos límites organizativos.

CaBot e outros proxectos

O equipo da Dra. Chieko Asakawa estivo traballando nun proxecto de código aberto chamado CaBot (Carry On Robot), unha maleta habilitada con IA deseñada para axudar a navegar por aeroportos e outros espazos, que atraeu contribuíntes de todo o mundo.

CaBot é só un dos varios proxectos nos que a Dra. Asakawa estivo traballando nos últimos anos. Como parte do Laboratorio de Asistencia Cognitiva de Carnegie Mellon (CAL), explorou varias formas nas que a IA pode ser utilizada para “comprender o mundo circundante para dar sentido á información para as persoas que non poden ver.”

O grupo tamén creou unha aplicación para smartphones que axuda a recoñecer obxectos persoais e outra para axudar coa navegación interior, ambas parte do proxecto de código aberto Human-scale Localization Platform (HULOP). Un tema común entre os proxectos da Dra. Asakawa é proporcionar autonomía e independencia coa axuda da tecnoloxía. Falou deste tema durante a súa charla TED en 2015.

Vídeo sobre a accesibilidade con IA

Continuamos coa publicación de artigos sobre proxectos libres relacionados coa Intelixencia Articial. Neste artigo faremos un repaso do Open Medical-LLM Leaderboard.

Ao longo dos anos, os Modelos de Linguaxe Grande (LLMs) emerxeron como unha tecnoloxía revolucionaria con un potencial inmenso para transformar diversos aspectos da saúde. Estes modelos, como GPT-3, GPT-4 e Med-PaLM 2, demostraron capacidades notables na comprensión e xeración de texto similar ao humano, converténdose en ferramentas valiosas para afrontar tarefas médicas complexas e mellorar a atención ao paciente. Mostraron un gran potencial en varias aplicacións médicas, como preguntas-respostas médicas (QA) , sistemas de diálogo e xeración de texto.

Ademais, co crecemento exponencial dos rexistros electrónicos de saúde (EHRs), a literatura médica e os datos xerados polos pacientes, os LLMs poderían axudar aos profesionais da saúde a extraer información valiosa e tomar decisións informadas.

Non obstante, a pesar do inmenso potencial dos Modelos de Linguaxe Grande (LLMs) na saúde, hai retos significativos e específicos que precisan ser abordados.

Cando os modelos se usan para aspectos conversacionais recreativos, os erros teñen poucas repercusións; isto non é o caso para usos no ámbito médico, onde unha explicación ou resposta incorrecta pode ter consecuencias graves para o coidado e os resultados do paciente. A precisión e a fiabilidade da información proporcionada polos modelos de linguaxe poden ser unha cuestión de vida ou morte, xa que poderían afectar potencialmente as decisións de saúde, o diagnóstico e os plans de tratamento.

Para aproveitar plenamente o poder dos LLMs na atención sanitaria, é crucial desenvolver e comparar modelos utilizando un conxunto específico deseñado para o dominio médico. Este conxunto debe ter en conta as características e requisitos únicos dos datos e aplicacións sanitarias. O desenvolvemento de métodos para avaliar o Medical-LLM non é só de interese académico senón tamén de importancia práctica, dados os riscos reais que supoñen no sector sanitario.

Open Medical-LLM Leaderboard

O Taboleiro de Clasificación Open Medical-LLM ten como obxectivo rastrexar, clasificar e avaliar o rendemento dos grandes modelos de linguaxe (LLMs) en tarefas de resposta a preguntas médicas.

Avalía os LLMs a través dunha ampla variedade de conxuntos de datos médicos, incluíndo MedQA (USMLE), PubMedQA, MedMCQA e subconxuntos de MMLU relacionados coa medicina e a bioloxía. O taboleiro ofrece unha avaliación comprensiva do coñecemento médico e das capacidades de resposta a preguntas de cada modelo.

Os conxuntos de datos cobren varios aspectos da medicina, como o coñecemento médico xeral, o coñecemento clínico, a anatomía, a xenética e máis. Contén preguntas de opción múltiple e preguntas abertas que requiren razoamento e comprensión médica.

Ao ofrecer unha avaliación comprensiva do coñecemento médico e das capacidades de resposta a preguntas de cada modelo, o taboleiro pretende fomentar o desenvolvemento de LLMs médicos máis efectivos e fiables.

Esta plataforma permite aos investigadores e profesionais identificar as fortalezas e debilidades de diferentes enfoques, impulsar novos avances no campo e, en última instancia, contribuír a unha mellor atención e resultados para os pacientes.

Conxuntos de Datos, Tarefas e Configuración de Avaliación

MedQA

O conxunto de datos MedQA consiste en preguntas de opción múltiple do Exame de Licenza Médica dos Estados Unidos (USMLE). Cobre coñecementos médicos xerais e inclúe 11,450 preguntas no conxunto de desenvolvemento e 1,273 preguntas no conxunto de probas. Cada pregunta ten 4 ou 5 opcións de resposta, e o conxunto de datos está deseñado para avaliar os coñecementos médicos e as habilidades de razoamento necesarias para a licenza médica nos Estados Unidos.

MedMCQA

MedMCQA é un conxunto de datos de QA de opción múltiple a gran escala derivado dos exames de ingreso médico indios (AIIMS/NEET). Cobre 2.4k temas de saúde e 21 materias médicas, con máis de 187,000 preguntas no conxunto de desenvolvemento e 6,100 preguntas no conxunto de probas. Cada pregunta ten 4 opcións de resposta e vai acompañada dunha explicación. MedMCQA avalía os coñecementos médicos xerais e as capacidades de razoamento dun modelo.

PubMedQA

PubMedQA é un conxunto de datos de QA de dominio pechado, no que cada pregunta pode ser respondida mirando un contexto asociado (resumo de PubMed). Consta de 1,000 pares de preguntas-respostas etiquetadas por expertos. Cada pregunta vai acompañada dun resumo de PubMed como contexto, e a tarefa é proporcionar unha resposta si/non/talvez baseada na información no resumo. O conxunto de datos divídese en 500 preguntas para desenvolvemento e 500 para probas. PubMedQA avalía a capacidade dun modelo para comprender e razoar sobre literatura biomédica científica.

Subconxuntos de MMLU (Medicina e Bioloxía)

O benchmark MMLU (Medición de Comprensión Multitarefa Masiva) inclúe preguntas de opción múltiple de varios dominios. Para o Taboleiro de Clasificación Aberto de Medical-LLM, centrámonos nos subconxuntos máis relevantes para o coñecemento médico:

– Coñecemento Clínico: 265 preguntas que avalían as habilidades de coñecemento clínico e toma de decisións.

– Xenética Médica: 100 preguntas que cobren temas relacionados coa xenética médica.

– Anatomía: 135 preguntas que avalían o coñecemento da anatomía humana.

– Medicina Profesional: 272 preguntas que avalían o coñecemento necesario para profesionais médicos.

– Bioloxía Universitaria: 144 preguntas que cobren conceptos de bioloxía a nivel universitario.

– Medicina Universitaria: 173 preguntas que avalían o coñecemento médico a nivel universitario.

Conclusións

O Open Medical-LLM Leaderboard avalía o rendemento de varios modelos de linguaxe grande (LLMs) nun conxunto diverso de tarefas de preguntas e respostas médicas. Principais conclusións:

– Modelos comerciais como GPT-4-base e Med-PaLM-2 alcanzan consistentemente altas puntuacións de precisión en varios conxuntos de datos médicos, demostrando un forte rendemento en diferentes dominios médicos.

– Os modelos de código aberto, como Starling-LM-7B, gemma-7b, Mistral-7B-v0.1 e Hermes-2-Pro-Mistral-7B, mostran un rendemento competitivo en certos conxuntos de datos e tarefas, a pesar de ter tamaños máis pequenos de arredor de 7 mil millóns de parámetros.

– Tanto os modelos comerciais como os de código aberto teñen un bo rendemento en tarefas como a comprensión e o razoamento sobre literatura biomédica científica (PubMedQA) e a aplicación de coñecementos clínicos e habilidades de toma de decisións (subconxunto de coñecementos clínicos de MMLU).

O modelo de Google, Gemini Pro, demostra un forte rendemento en varios dominios médicos, destacando especialmente en tarefas intensivas en datos e procedementos como Bioestatística, Bioloxía Celular e Obstetricia e Xinecoloxía. Non obstante, mostra un rendemento moderado a baixo en áreas críticas como Anatomía, Cardioloxía e Dermatoloxía, revelando lagoas que requiren un maior refinamento para unha aplicación médica integral.

Open Life Science AI

Open Life Science AI é un proxecto que ten como obxectivo revolucionar a aplicación da intelixencia artificial nos ámbitos das ciencias da vida e a saúde.

Serve como un punto central para unha lista de modelos médicos, conxuntos de datos, referencias e seguimento de datas límite de conferencias, fomentando a colaboración, a innovación e o progreso no campo da saúde asistida por IA.

Esforzámonos por establecer Open Life Science AI como o destino principal para calquera interesado na intersección entre a IA e a saúde. Proporcionamos unha plataforma para que investigadores, clínicos, formuladores de políticas e expertos da industria poidan participar en diálogos, compartir coñecementos e explorar os últimos avances no campo.

Máis información:
https://huggingface.co/blog/leaderboard-medicalllm

Vídeo sobre o Open Medical-LLM Leaderboard

Continuamos coa publicación de artigos sobre proxectos libres relacionados coa Intelixencia Articial. Neste segundo artigo faremos un repaso aos MoEs (siglas en inglés de Mistura de Expertos).

Que é unha Mistura de Expertos (MoE)?

A Mezcla de Expertos na Intelixencia Artificial é unha técnica que distribúe tarefas específicas entre múltiples submodelos chamados “expertos”, cada un entrenado nun dominio particular de coñecemento.

A clave desta arquitectura radica na súa capacidade para decidir dinamicamente que experto ou combinación de expertos é máis adecuado para unha tarefa determinada, o que permite unha xestión de recursos máis eficiente e unha mellora na precisión das predicións.

A escala dun modelo é un dos eixos máis importantes para unha mellor calidade do modelo. Dado un presuposto de computación fixo, o adestramento dun modelo máis grande durante menos pasos é mellor que o adestramento dun modelo máis pequeno durante máis pasos.

A Mistura de Expertos permite preentrenar modelos con moito menos cálculo, o que significa que podes escalar dramaticamente o tamaño do modelo ou do conxunto de datos co mesmo presuposto de cálculo que un modelo denso. En particular, un modelo MoE debería acadar a mesma calidade que o seu homólogo denso moito máis rápido durante o preentrenamento.

Un MoE consta de dous elementos principais:

– Capas MoE, que teñen un certo número de “expertos” (normalmente 8), onde cada experto é unha rede neural. Os expertos poden ser redes máis complexas ou incluso un MoE en si mesmo.

– Unha rede de comportas ou encamiñador, determina que tokens se envían a que experto. Por exemplo, na imaxe de abaixo, o token “More” envíase ao segundo experto, e o token “Parameters” envíase á primeira rede. Podemos enviar un token a máis dun experto.

Algunhas das características dos MoEs son:

– Preentrenan moito máis rápido en comparación cos modelos densos

– Teñen unha inferencia máis rápida en comparación cun modelo co mesmo número de parámetros

– Requírese alta VRAM xa que todos os expertos están cargados en memoria

– Enfrontan moitos desafíos no axuste fino

En resumo, a Mezcla de Expertos na IA ofrece varias vantaxes sobre outros métodos de aprendizaxe automático. É máis eficiente, xa que só precisa executar un experto ou unha combinación de expertos para cada entrada. Ademais, é escalable, xa que se pode aumentar o número de expertos para mellorar o rendemento en problemas complexos. Tamén é versátil, xa que se pode aplicar a unha ampla gama de problemas de aprendizaxe automático.

Esta arquitectura demostrou a súa eficacia en aplicacións reais e ofrece numerosas vantaxes sobre outros métodos de aprendizaxe automático.

Proxectos de código aberto relacionados cos modelos MoE

MoEs de acceso aberto liberados

– Switch Transformers (Google): Colección de MoEs baseados en T5, desde 8 até 2048 expertos.

– NLLB MoE (Meta): Unha variante MoE do modelo de tradución NLLB.

– OpenMoE: Un esforzo comunitario que liberou MoEs baseados en Llama.

– Mixtral 8x7B (Mistral): Un MoE de alta calidade que supera a Llama 2 70B e ten unha inferencia moito máis rápida.

Entrenamento dos MoE

– Megablocks: https://github.com/stanford-futuredata/megablocks

– Fairseq: https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm

– OpenMoE: https://github.com/XueFuzhao/OpenMoE

Mixtral

Mixtral 8x7b é un gran modelo de linguaxe lanzado por Mistral, o cal establece un novo estado da arte para os modelos de acceso aberto e supera a GPT-3.5 en moitos puntos de referencia.

Mixtral ten unha arquitectura semellante á de Mistral 7B, pero vén cunha reviravolta: realmente son 8 modelos “expertos” nun só, grazas a unha técnica chamada Mestura de Expertos (MoE).

Algunhas características:

– Versións base e Instruct

– Soporta unha lonxitude de contexto de 32k tokens

– Supera a Llama 2 70B e iguala ou supera a GPT3.5 na maioría dos puntos de referencia

– Fala inglés, francés, alemán, español e italiano

– Boa en programación, con 40.2% en HumanEval

– Comercialmente permisiva cunha licenza Apache 2.0

Podes probar a conversar co modelo Mixtral Instruct en Hugging Face Chat:
https://huggingface.co/chat/?model=mistralai/Mixtral-8x7B-Instruct-v0.1

Máis información

Pílula en vídeo sobre o artigo

Empezamos coa publicación dunha serie de artigos sobre proxectos libres relacionados coa Intelixencia Articial. Neste primeiro artigo faremos un repaso aos Modelos de Linguaxe Grande, máis coñecidos como LLMs.

LLMs

Os LLMs, ou “Large Language Models” (Modelos de Linguaxe Grande), son sistemas de intelixencia artificial deseñados para entender, xerar e traballar con texto de maneira avanzada. Estos modelos son adestrados con enormes cantidades de datos textuais para aprender patróns de linguaxe, gramática, e incluso estilo e contexto.

A súa capacidade para procesar e xerar linguaxe fainos ferramentas poderosas para unha variedade de aplicacións, incluíndo tradución automática, xeración de texto, sumarización, e outros. Estos sistemas experimentaron un aumento da súa popularidade desde principios do ano 2023.

Os LLM libres, distínguense por ser desenvolvidos e distribuídos baixo licenzas que permiten a calquera acceder, modificar e compartir o código fonte. Isto ten varias implicacións importantes:

– Transparencia. Ao ser abertos, é posible revisar e entender como funcionan estes modelos, o que contribúe a un maior entendemento dos seus mecanismos e limitacións.
– Personalización. Os usuarios poden adaptar os modelos ás súas necesidades específicas, mellorando ou modificando o seu comportamento segundo requiran os seus proxectos.
– Comunidade e colaboración. Fomenta unha comunidade de desenvolvedores e usuarios que colaboran para mellorar o modelo, compartir solucións e crear novas aplicacións.
– Accesibilidade. Ao estar dispoñibles de maneira gratuita, reducen as barreiras de entrada para individuos e organizacións que desexan explorar ou utilizar intelixencia artificial, democratizando o acceso a tecnoloxías avanzadas.
– Ética e responsabilidade. A filosofía do software libre promove un debate aberto sobre o uso ético da intelixencia artificial, incluíndo a preocupación pola privacidade, o sesgo dos datos e o impacto social dos LLM.

Exemplos de LLMs libres

– GPT-Neo e GPT-NeoX. Desenvolvidos por EleutherAI, estes modelos son alternativas de código aberto ás versións comerciais de GPT (Generative Pre-trained Transformer) de OpenAI. GPT-Neo e GPT-NeoX están deseñados para ser escalables e accesibles, permitindo aos investigadores e desenvolvedores traballar con tecnoloxía punteira en procesamento de linguaxe natural (PLN) sen restricións de licenza.
– GPT-J. Tamén unha iniciativa de EleutherAI, GPT-J é un modelo de linguaxe de gran escala que destaca pola súa capacidade de xeración de texto e comprensión.
– Stable Diffusion. Aínda que é máis coñecido como un modelo de xeración de imaxes, Stable Diffusion tamén inclúe capacidades de procesamento de texto a través de CLIP, un modelo que pode entender e xerar descricións a partir de imaxes. É un proxecto de código aberto que fomenta a innovación en varios campos da IA.
– Bloom: Desenvolvido por Hugging Face e BigScience, adestrado nun conxunto de datos masivo de texto e código.
– LaMDA. Desenvolvido por Google AI, coñecido pola súa capacidade para xerar conversas fluídas e coherentes.
– Megatron-Turing NLG. Desenvolvido por NVIDIA e Microsoft, adestrado nun conxunto de datos de texto e código con enfoque en tarefas de linguaxe natural.
– WuDao 2.0. Desenvolvido pola Academia de Intelixencia Artificial de Beijing (BAAI), adestrado principalmente en chinés, pero tamén con capacidades en inglés.
– BERT (Bidirectional Encoder Representations from Transformers) é un modelo desenvolvido por Google que foi pioneiro no uso de transformadores para entender o contexto das palabras nun texto de forma bidireccional. Aínda que o BERT orixinal non é un LLM no mesmo sentido que os modelos GPT, a súa arquitectura abriu o camiño para o desenvolvemento de moitos modelos derivados que son libres.
– RoBERTa. Desenvolvido por Facebook AI, RoBERTa é unha optimización de BERT que mellora o seu rendemento mediante o axuste do proceso de adestramento e o aumento da cantidade de datos de adestramento.
– XLNet. XLNet é outro modelo baseado en transformadores, desenvolvido por Google Brain e Carnegie Mellon University, que supera a BERT en varias tarefas de comprensión de texto.
– OpenAI’s GPT-2. Aínda que OpenAI limitou inicialmente o acceso ao seu modelo GPT-3 debido a preocupacións sobre o seu potencial mal uso, a versión anterior, GPT-2, foi liberada completamente como código aberto. Isto permitiu a investigadores e desenvolvedores explorar e experimentar coas capacidades do modelo.
– FairSeq. Desenvolvido por Facebook AI Research, FairSeq é unha biblioteca de aprendizaxe profunda para secuencia a secuencia (seq2seq) que inclúe implementacións de BART, RoBERTa, e outros modelos baseados en transformadores. Aínda que FairSeq en si mesmo é máis un marco de traballo que un modelo específico, proporciona as ferramentas necesarias para adestrar e despregar LLMs.
– TensorFlow Model Garden. Aínda que TensorFlow en si mesmo é unha biblioteca de aprendizaxe automática de código aberto desenvolvida por Google, o Model Garden ofrece un conxunto de modelos pre-adestrados e implementacións que inclúen técnicas de última xeración.
– AllenNLP. Desenvolvido polo Allen Institute for AI, AllenNLP é unha plataforma de código aberto deseñada para a investigación en PLN. Ofrece unha ampla gama de modelos pre-adestrados e ferramentas para facilitar a experimentación en comprensión de lectura, inferencia textual, e máis.

Estes modelos e ferramentas representan só unha mostra do amplo e crecente ecosistema de intelixencia artificial libre e de código aberto. A dispoñibilidade destes recursos permite a unha ampla gama de usuarios, dende investigadores ata entusiastas, explorar as fronteiras da tecnoloxía de IA e contribuír ao seu desenvolvemento de forma colaborativa.

Plataformas de acceso a LLMs

Para acceder a estes recursos dunha forma sinxela, pódese facer a través de plataformas en liña como:

– Hugging Face. Ofrece unha ampla gama de LLMs pre-adestrados, incluíndo algúns de código aberto como Bloom e LaMDA, con interfaces fáciles de usar para a súa implementación.
– Google AI Platform. Proporciona acceso a algúns dos seus LLMs máis avanzados, como LaMDA e Meena.
– DeepMind. Ofrece acceso a algúns dos seus LLMs de investigación, como Gopher e Gato.

Problemas dos LLMs

Ainda que esta tecnoloxía ten un gran potencial, hai que ter en conta que poden presentarse diferentes problemas co seu uso:

– Sesgos. Os LLMs poden herdar sesgos presentes nos datos de adestramento, o que pode xerar resultados discriminatorios ou inxustos. Por exemplo, se un LLM adestrase con un conxunto de datos que contén principalmente textos escritos por homes, é probable que xere resultados que favorezan aos homes.
– Interpretabilidade. A complexidade dos LLMs dificulta a comprensión de como funcionan e por que xeran certos resultados. Isto pode dificultar a detección de erros ou sesgos no modelo, así como a confianza nas súas decisións.
– Seguridade e ética. É importante utilizar os LLMs de forma responsable e ética para evitar o seu uso con fins maliciosos. Os LLMs poderían ser utilizados para xerar contido falso, propaganda ou para manipular ás persoas.

Evolución dos modelos

Ao longo dos últimos anos, estes modelos tiveron unha rápida evolución que podemos resumir nos seguintes puntos:

– Aumento do tamaño e a complexidade. Os LLMs experimentaron un crecemento exponencial no seu tamaño, con algúns modelos actuais que albergan miles de millóns de parámetros, o que lles permite procesar información con maior precisión e xerar resultados máis complexos.
– Mellora na xeración de texto creativo. Os LLMs agora poden escribir poemas, historias, guións e mesmo código cun nivel de calidade comparable ao dun humano.
– Desenvolvemento de novas aplicacións. Implementáronse LLMs en diversos campos como a educación, a atención sanitaria, o servizo ao cliente e o desenvolvemento de software, entre outros. No ámbito educativo, por exemplo, utilizanse LLMs para crear plataformas de aprendizaxe personalizadas que se adaptan ás necesidades de cada estudante.

En conclusión, nos últimos anos tiveron lugar grandes avances no campo dos LLMs. Estes modelos teñen o potencial de transformar a forma en que interactuamos coas computadoras e o mundo que nos rodea. Non obstante, aínda hai desafíos que abordar, como os sesgos, a interpretabilidade e a seguridade, para garantir un desenvolvemento e uso responsable desta tecnoloxía.

Pílula en vídeo do artigo