Actualizado el 01/04/2025

icon Facebook icon Twiiter icon RSS icon EMAIL
Portada
  1. Portada
    2. >
  2. Noticias
    3. >
  3. Crean USB que ejecuta un modelo de IA

Crean USB que ejecuta un modelo de IA

Escrito por Guillem Alsina el 04/03/2025 a las 08:53:29
116

La inteligencia artificial se empieza a hacer indispensable en el día a día de mucha gente -incluído el que firma estas líneas, valga decir, aunque hayan sido escritas manualmente-, aunque presenta un gran problema: para la mayoría de los usuarios, depende de servicios online. El problema aquí no es tanto la privacidad de los datos, que también, sino la disponibilidad del servicio, por ello ha despertado tanto interés DeepSeek, al tratarse de un modelo optimizado para su ejecución en un hardware que podemos tener fácilmente en nuestros ordenadores.


Es en este contexto que un desarrollador independiente conocido con el pseudónimo Binh, ha conseguido meter un modelo de lenguaje grande (concretamente, llama.cpp) en un pendrive que, gracias a una Raspberry Pi Zero W, es capaz de ejecutarlo con capacidad de procesamiento propia.


El logro, que el mismo joven explica en un vídeo en su canal de YouTube, no se materializa, al menos por el momento, en un dispositivo que se ponga a la venta, pese a que abre la puerta a que alguna empresa pueda llegar a comercializarlo más adelante.


Un funcionamiento simple


Llama es un modelo de lenguaje grande (es decir, es un software que hace lo mismo que ChatGPT, Gemini o Claude, aunque las diferencias en su rendimiento pueden ser sensibles) de código abierto creado por Meta, la compañía de Mark Zuckerberg (amo también de Facebook, WhatsApp e Instagram). Al ser de código abierto, podemos descargarlo y utilizarlo a nuestra conveniencia de forma local, sin depender de un servicio de alojamiento en la nube.


Para que pueda funcionar sobre aparatos de menor potencia, como procesadores ARM con un rendimiento menor que el de un PC x86-64, se ha creado la versión Llama.cpp, que es la que corre este dispositivo, puesto que la Raspberry Pi Zero W dispone de un microprocesador de un sólo núcleo funcionando a 1 GHz, y acompañado de 512 MB de RAM.


Tras superar una serie de retos no faltos de cierta complicación para la construcción del dispositivo en su apartado de software, Binh consiguió crear un pendrive que no requiere de la instalación de ningún driver ni otro software en el ordenador al que se conecta, solamente la creación de un simple fichero de texto que es en el que el aparato volcará los resultados de su trabajo. Dicho fichero debe crearse en un emplazamiento concreto del sistema de ficheros de nuestro ordenador.


En el vídeo, de más de doce minutos de duración, Binh desgrana todas las etapas de creación de esta solución, por lo que es perfectamente factible que cualquier persona con un poco de habilidad, pueda crearse una de estas herramientas, o recurrir al típico amigo “manitas informático” para que se lo haga.

Facebook
Twitter
 Meneame
 Reddit



Ver más Noticias