La IA llega a la documentación personal

 Comenté en el post anterior el avance de las aplicaciones de IA generativa y cómo existen ya alternativas que podrían ser utilizadas en los departamentos de documentación de los medios de prensa. Los avances en este materia son rápidos y, como comentaré aquí, ya están llegando a la computación personal, aunque se requiere algo de preparación (estudio) para poder aprovecharla.

Lo que ha aparecido como opción "personal" es el software Jan (https://jan.ai/), que propone convertir cualquier computador en una máquina de IA para poder interaccionar con ella localmente. Ejecuta modelos de IA generativa (motores de inferencia) como LlaMA o Mistral - que son los más sencillos -, entre muchos otros, directamente en el PC (aunque requiere una amplia memoria RAM) y acepta variadas extensiones para labores específicas (especializar el modelo). También permite utilizar, enlazándose a ellos, modelos "clásicos" como ChatGPT, asegurando que no podrán ver los datos ni almacenar los archivos. Y solo en este caso se necesitaría una conexión a internet, aparte de la necesaria descarga del modelo operativo elegido antes de empezar a trabajar. Varios modelos de IA están disponibles en la plataforma de código abierto GitHub, y la web de Jan informa sobre las características de cada uno.

Una vez hecha la instalación, se puede designar el paquete de datos a investigar (se mencionan, por ejemplo, documentos en PDF). Aún recurriendo a la opción de utilizar una aplicación externa como ChatGPT, todos los datos se mantienen localmente como también el procesamiento y los resultados.

El software base de Jan ocupa poco espacio y se asegura que opera en forma fluida siempre que no se realice otra tarea.

También es interesante el anuncio de Microsoft: una actualización, en mayo próximo, de Windows 11 que traerá "una IA local a la que le podremos consultar mediante lenguaje natural cualquier cosa relacionada con los archivos de nuestros PCs y más" y una caja de herramientas "PowerToys " con IA, sin detalles sobre sus funciones, pero no se habla de IA generativa (Vallejo).

Se pueden esperar más novedades en equipos con chips orientados a la IA aunque, inicialmente, irían en la línea de la creación (como texto-a-imagen, transcripciones y traducciones):

"The idea of an AI PC is relatively straightforward, with hardware makers like Intel, Nvidia and AMD building dedicated AI chips into processors for desktop and laptop use.

AMD’s latest desktop and laptop processors put the company squarely in the emerging AI PC market with the integration of generative-AI (genAI) technology into some of its most popular chip lines." (Computerworld, 16/04/24)

Así, los PC, incluso de tipo laptop, se adaptan incluyendo nuevos procesadores de alto rendimiento como el Intel Core Ultra. Samsung ya anunció la disponibilidad de su Galaxy Book4 Ultra, el primero en estar equipados con una unidad de procesamiento neuronal (NPU) además de una GPU integrada, "acelerando el rendimiento de la IA generativa basada en texto e imagen" en el computador, aunque principalmente orientada al aprendizaje automático para producir efectos visuales avanzados (Iturra y Rivas).

Pero no soy el único en pensar en IA de uso "documental": Jim McGregor analista de TIRIAS Research, espera poder analizar su correo electrónico: “I’d want it scanning my emails and being able to summarize them and tell you what’s important.” (Computerworld)

Facilitarán sin duda el uso de software como Jan y se puede esperar que aparezcan otras aplicaciones (software) con mejores interfaces de usuarios y facilidad de uso aunque, como señala Computerworld) Micrososoft podría frenar el movimiento, interesada en un desarrollo propio... y lanzar Windows 12, quizás especialmente para nuevos PC y laptops equipados con chips ARM con NPU (Snapdragon X Elite), de preferencia a los chips de Intel, según Cristiano Amon, CEO de Qualcomm. ¡Una batalla con Intel en perspectiva! (Computerworld, 16/04/24) 

Referencias

Iturra, F. y Rivas, F. (2024): Samsung lanza nuevos Galaxy Book4 con procesadores Intel Core de última generación y avances en IA, Radio Biobio, 12/04/2024. 

Jan (2024): Overview 

Rodriguez de Luis, E. (2024): He probado Jan, la alternativa a ChatGPT de código abierto y gratis que puedes usar en local, Genbeta, 6/04/2024. 

Vallejo, A. (2024): Windows 11 tendrá una gigantesca actualización con IA local: así quiere Microsoft impulsar su explorador y otras funciones, genbeta, 15/04/2024.