Los clientes podrán crear aplicaciones de IA generativa sin necesidad de contar con experiencia en IA o migración datos, sin pagar costos adicionales
HeatWave GenAI procesa vectores entre 15 y 30 veces más rápido que otras soluciones similares en el mercado
Ciudad de México, 18 de julio de 2024 —Oracle anunció que ya está disponible HeatWave GenAI —solución de Inteligencia Artificial Generativa (GenAI) de la compañía— que incluye los primeros grandes modelos de lenguaje (LLM) del sector, un almacén de vectores automatizado en la base de datos, procesamiento de vectores escalable y capacidad de mantener conversaciones contextuales en lenguaje natural. Funciones que permiten a los clientes incorporar el poder de la IA generativa a sus datos empresariales sin necesidad de contar con experiencia en IA o migración de datos a una base de datos vectorial.
Con HeatWave GenAI, los usuarios pueden realizar búsquedas en lenguaje natural, gracias a los LLM externos o la base de datos. Debido a la escala y el rendimiento de HeatWave, no es necesario GPU adicional. Como resultado, los desarrolladores pueden reducir la complejidad en sus aplicaciones, impulsar el rendimiento, mejorar la seguridad de los datos —ya que la información no sale de la base de datos—, y reducir costos.
«Estas mejoras integradas y automatizadas permiten que los desarrolladores creen aplicaciones ricas en IA generativa con mayor rapidez, sin necesidad de tener conocimientos previos en el tema o en migración de datos. Ahora, los usuarios disponen de una forma intuitiva de interactuar con los datos de su organización y obtener rápidamente las respuestas precisas que necesitan para su empresa», comentó Edward Screven, arquitecto jefe corporativo de Oracle.
«HeatWave GenAI consigue que resulte extremadamente sencillo aprovechar la IA generativa», señala Vijay Sundhar, director ejecutivo de SmarterD. «El soporte para LLM y creación de vectores en la base de datos se traduce en una reducción significativa de la complejidad de sus aplicaciones, una latencia predecible, sin costo adicional. Esta es la democratización de la IA generativa y creemos que dará lugar al desarrollo de aplicaciones más ricas y una mayor productividad de nuestros clientes».
Entre las nuevas funciones automatizadas e integradas de IA generativa se incluyen:
- Los LLM en base de datos
- Simplifican el desarrollo de aplicaciones de IA generativa a un menor costo.
- Beneficios de GenAI sin la complejidad de la selección e integración de LLM externos, y sin preocuparse por su disponibilidad en centros de datos de varios proveedores de nube.
- Permiten que los clientes busquen datos, generen o resuman contenidos y realicen una generación aumentada por recuperación (RAG).
- Pueden combinar GenAI con HeatWave AutoML, para desarrollar aplicaciones más completas; o el servicio OCI Generative AI para acceder a modelos fundacionales preentrenados de los principales proveedores de LLM.
- El almacenamiento vectorial automatizado en la base de datos
- Los clientes pueden utilizar GenAI con sus documentos empresariales sin necesidad de trasladar los datos a una base de datos vectorial independiente y sin conocimientos previos de IA.
- Todos los pasos para crear un almacén vectorial e incrustaciones vectoriales están automatizados y se ejecutan dentro de la base de datos.
- Detección de los documentos en el almacenamiento de objetos
- Análisis sintáctico
- Generación de incrustaciones de forma altamente paralela y optimizada
- Su inserción en el almacén vectorial
- El uso de un almacén vectorial ayuda a resolver las alucinaciones de los LLM, ya que los modelos pueden buscar datos propios con el contexto adecuado para proporcionar respuestas más precisas y relevantes.
- El procesamiento vectorial a escala
- Ofrece resultados de búsqueda semántica muy rápidos sin pérdida de precisión.
- Permite que los clientes realicen consultas semánticas con SQL estándar.
- El procesamiento vectorial se ejecuta con un ancho de banda cercano a la memoria, paralelo en hasta 512 nodos HeatWave, para que los clientes reciban respuestas rápidas.
- Pueden combinar la búsqueda semántica con otros operadores SQL para, por ejemplo, unir varias tablas con documentos diferentes y realizar búsquedas por similitud en todos los documentos.
- HeatWave Chat
- Complemento que proporciona una interfaz gráfica para HeatWave GenAI.
- Permite que los desarrolladores planteen preguntas en lenguaje natural o SQL.
- Permite a los usuarios seleccionar archivos del almacenamiento de objetos y crear un almacén de vectores.
- Los usuarios pueden buscar en toda la base de datos o restringir la búsqueda a una carpeta.
- Mantiene el contexto con el historial de las preguntas formuladas, facilitando una conversación contextual y verificar la fuente de las respuestas generadas.
Patrones de creación de almacenes vectoriales y procesamiento de vectores
La creación de un almacén vectorial para documentos en formato PDF, PPT, WORD y HTML es hasta 23 veces más rápida con HeatWave GenAI y a 1/4 del costo de utilizar Knowledge base para Amazon Bedrock.
De acuerdo con un benchmark de terceros, HeatWave GenAI es:
- 30 veces más rápido que Snowflake y cuesta 25% menos
- 15 veces más rápido que Databricks y cuesta 85% menos
- 18 veces más rápido que Google BigQuery y cuesta 60% menos
Una prueba comparativa independiente revela que el procesamiento de búsqueda de similitudes de HeatWave proporciona siempre resultados precisos, con un tiempo de respuesta predecible, a una velocidad cercana a la de la memoria y es entre 10 y 80 veces más rápido —utilizando el mismo número de núcleos— que Amazon Aurora PostgreSQL.
HeatWave GenAI está disponible inmediatamente en todas las regiones de Oracle Cloud, Oracle Cloud Infrastructure (OCI) Dedicated Region y en todas las nubes sin costo adicional para los clientes de HeatWave.
Comentarios adicionales de clientes y analistas sobre HeatWave GenAI
«La capacidad de integrar IA generativa con AutoML mejora el desempeño y la calidad de los resultados del LLM y proporciona una mayor diferenciación para HeatWave en el sector, permitiéndonos ofrecer nuevos tipos de capacidades a nuestros clientes. «.
Safarath Shafi, director ejecutivo de EatEasy.
«Esta innovación de Oracle probablemente estimulará el crecimiento de una nueva clase de aplicaciones en las que los clientes buscan formas de aprovechar la IA generativa en su contenido empresarial».
Eric Aguilar, fundador de Aiwifi.
«La IA generativa al estilo HeatWave permite que los desarrolladores creen nuevas clases de aplicaciones a medida que combinan elementos. Por ejemplo, pueden combinar HeatWave AutoML y HeatWave GenAI en una aplicación de detección de fraudes que no sólo detecte transacciones sospechosas, sino que también ofrezca una explicación comprensible. Todo esto se ejecuta en la base de datos, por lo que no hay necesidad de trasladar la información a bases de vectores externas, manteniéndolos más seguros. Entregando un alto rendimiento a una fracción del costo».
Holger Mueller, vicepresidente y analista principal de Constellation Research.
HeatWave
HeatWave es el único servicio en la nube que ofrece IA generativa automatizada e integrada y aprendizaje automático juntos para transacciones y análisis a escala de lagos de datos. Componente central de la estrategia de nube distribuida de Oracle, HeatWave está disponible de forma nativa en OCI y Amazon Web Services, en Microsoft Azure a través de Oracle Interconnect para Azure, y en los centros de datos de los clientes con OCI Dedicated Region y Oracle Alloy.
Recursos adicionales
- Ver Edward Screven anuncia nuevas mejoras de GenAI para HeatWave
- Lee el blog técnico de HeatWave
- Lee lo que dicen los analistas del sector sobre HeatWave.
# # #
Acerca de Oracle
Oracle ofrece conjuntos integrados de aplicaciones y una infraestructura autónoma y segura en Oracle Cloud. Para más información sobre Oracle (NYSE: ORCL), visítanos en www.oracle.com.
Marcas registradas
Oracle, Java, MySQL y NetSuite son marcas registradas de Oracle Corporation. NetSuite fue la primera empresa en la nube, inaugurando la nueva era de la computación en la nube.
