IBM y Grok ha anunciado una asociación tecnológica y de comercialización diseñada para aplaudir a los clientes llegada inmediato a la tecnología de inferencia de Groq, GroqCloud, en watsonx Orchestrate, brindando a los clientes capacidades de inferencia de IA de adhesión velocidad a un costo que ayuda a acelerar la implementación de IA agente. Como parte de la asociación, Groq e IBM planean integrar y mejorar la tecnología vLLM de código descubierto de Red Hat con la edificio LPU de Groq. Todavía está previsto que los modelos IBM Granite sean compatibles con GroqCloud para los clientes de IBM.
Las empresas que trasladan agentes de IA del piloto a la producción aún enfrentan desafíos de velocidad, costo y confiabilidad, especialmente en sectores de encargo crítica como atención médica, finanzas, gobierno, comercio minorista y manufactura. Esta asociación combina la velocidad de inferencia, la rentabilidad y el llegada a los últimos modelos de código descubierto de Groq con la orquestación de IA agente de IBM para ofrecer la infraestructura necesaria para ayudar a las empresas a prosperar.
Impulsado por su LPU personalizada, GroqCloud ofrece una inferencia cinco veces más rápida y rentable que los sistemas de GPU tradicionales. El resultado es una latencia constantemente desaparecido y un rendimiento confiable, incluso cuando las cargas de trabajo escalan conjuntamente. Esto es especialmente poderoso para la IA agente en industrias reguladas.
Por ejemplo, los clientes de atención médica de IBM reciben miles de preguntas complejas de pacientes simultáneamente. Con Groq, los agentes de inteligencia sintético de IBM pueden analizar información en tiempo positivo y aplaudir respuestas precisas de inmediato para mejorar las experiencias de los clientes y permitir a las organizaciones tomar decisiones más rápidas e inteligentes.
Esta tecnología además se está aplicando en industrias no reguladas. Los clientes de IBM del sector minorista y de beneficios de consumo empaquetados están utilizando Groq para agentes de capital humanos para ayudar a mejorar la automatización de los procesos de capital humanos y aumentar la productividad de los empleados.
«Muchas grandes organizaciones empresariales tienen una variedad de opciones con inferencia de IA cuando están experimentando, pero cuando quieren entrar en producción, deben asegurar que se puedan implementar flujos de trabajo complejos con éxito para asegurar experiencias de adhesión calidad», dijo Rob Thomas, vicepresidente senior de software y director comercial de IBM. «Nuestra asociación con Groq subraya el compromiso de IBM de aplaudir a los clientes las tecnologías más avanzadas para conquistar la implementación de IA e impulsar el valía comercial».
«Con la velocidad de Groq y la experiencia empresarial de IBM, estamos haciendo que la IA agente sea positivo para los negocios. Juntos, estamos permitiendo a las organizaciones desbloquear todo el potencial de las respuestas impulsadas por la IA con el rendimiento necesario para prosperar», dijo Jonathan Ross, director ejecutante y fundador de Groq. «Más allá de la velocidad y la resiliencia, esta asociación prostitución de elaborar la forma en que las empresas trabajan con la IA, tener lugar de la experimentación a la asimilación en toda la empresa con confianza y aclarar la puerta a nuevos patrones en los que la IA pueda desempeñarse instantáneamente y cultivarse continuamente».
IBM ofrecerá llegada a las capacidades de GroqCloud a partir de inmediato y los equipos conjuntos se centrarán en ofrecer las siguientes capacidades a los clientes de IBM, que incluyen:
- Inferencia de adhesión velocidad y parada rendimiento eso desbloquea todo el potencial de los modelos de IA y la IA agente, impulsando casos de uso como atención al cliente, soporte a los empleados y restablecimiento de la productividad.
- Implementación de IA centrada en la seguridad y la privacidad diseñado para soportar los requisitos regulatorios y de seguridad más estrictos, permitiendo la ejecución efectiva de flujos de trabajo complejos.
- Integración perfecta con el producto agente de IBMwatsonx Orchestrate, brinda a los clientes flexibilidad para adoptar patrones de agencia diseñados específicamente para diversos casos de uso.
La asociación además planea integrar y mejorar la tecnología vLLM de código descubierto de Red Hat con la edificio LPU de Groq para ofrecer diferentes enfoques a los desafíos comunes de IA que enfrentan los desarrolladores durante la inferencia. Se dilación que la opción permita a Watsonx utilizar capacidades de una modo descendiente y permitir a los clientes permanecer en sus herramientas preferidas mientras acelera la inferencia con GroqCloud. Esta integración abordará las micción esencia de los desarrolladores de IA, incluida la orquestación de inferencia, el permanencia de carga y la apresuramiento de hardware, lo que en última instancia agilizará el proceso de inferencia.
Juntos, IBM y Groq brindan un llegada mejorado a todo el potencial de la IA empresarial, una que es rápida, inteligente y está diseñada para impactar en el mundo positivo.
Las declaraciones sobre la dirección e intención futuras de IBM y Groq están sujetas a cambios o retiradas sin previo aviso y representan metas y objetivos solamente.
Comente este artículo a través de X: @conectamentado_ y visite nuestra página de inicio IoT Now
