Saturday, January 18, 2025

Perplejidad del discurso del cliente de AWS re:Invent 2023

🤖 Perplejidad: El Futuro de la Búsqueda con IA Generativa

¿Estás cansado de buscar entre interminables resultados para encontrar la respuesta a tu pregunta? No busques más allá de Perplejidad, el motor de respuestas conversacionales líder en el mundo. Nuestro objetivo es proporcionar respuestas personalizadas que corten el ruido y te brinden exactamente lo que deseas.

🤝 Conoce a Aravind Srinivas, CEO y cofundador de Perplejidad

Aravind Srinivas es el CEO y cofundador de Perplejidad, una empresa que está reinventando el futuro de la búsqueda. Srinivas está apasionado por utilizar IA generativa para proporcionar respuestas personalizadas a los usuarios.

🤖 Copilot: Tu Compañero Interactivo de Búsqueda

Copilot de Perplejidad es un compañero interactivo de búsqueda que comienza con una pregunta general y profundiza para aclarar tus necesidades. Después de algunas interacciones contigo, Copilot te proporciona una excelente respuesta. Copilot es el primer ejemplo de interfaces de usuario generativas desplegadas públicamente a nivel mundial, lo cual reduce la necesidad de ingeniería de indicaciones.

🌎 Orquestación de Diferentes Modelos

Perplejidad no es solo una envoltura de API de modelos de lenguaje grandes y propietarios. En cambio, orquestamos varios modelos diferentes en un solo producto, incluyendo aquellos que hemos entrenado nosotros mismos. Construimos sobre modelos de código abierto como Llama 2 y Mistral, y los ajustamos para que sean precisos y estén en vivo sin límite de conocimiento, basándonos en datos de búsqueda web utilizando la vanguardista RAC.

🚀 AWS: La Clave del Éxito de Perplejidad

Perplejidad decidió apostar por completo en AWS para ejecutar este producto complejo. Comenzamos probando modelos frontera como Claude 2 de Anthropic en AWS Bedrock. Bedrock proporciona inferencia de vanguardia para estos modelos frontera. Esto nos ayudó a probar y desplegar rápidamente Claude 2 para mejorar nuestras capacidades de respuesta a preguntas generales al proporcionar respuestas con un tono más natural.

🤖 SageMaker HyperPod POC

Perplejidad trabajó con el equipo de Startups de AWS en un POC de Amazon SageMaker HyperPod. SageMaker HyperPod facilita la depuración del entrenamiento de modelos grandes y el manejo eficiente de la capacidad distribuida. Obtuvimos capacidad AWS EC2 p4de para el entrenamiento. Esto nos permitió ajustar modelos de código abierto de última generación como Llama 2 y Mistral.

🚀 Servicio Personalizado de AWS

AWS también nos ha ayudado con un servicio personalizado para satisfacer nuestras necesidades de inferencia, especialmente en instancias pf4 y PFI. Esto nos ayudó a construir APIs de primer nivel para nuestros modelos de código abierto y nuestros modelos internos que han sido ajustados para ser útiles y precisos.

🌟 Disponibilidad General de APIs

Hoy, nos complace anunciar la disponibilidad general de todos estos modelos en forma de APIs, incluyendo las APIs LLM en vivo, sin límite de conocimiento y conectadas a nuestro índice de búsqueda, todo alojado completamente en AWS.

🌟 El Futuro de la Búsqueda

La IA generativa aún está en sus etapas iniciales y creemos que estamos al comienzo de lo que será una gloriosa revolución para todos nosotros. Los mayores beneficiados serán ustedes, los consumidores de la tecnología, donde tendrán muchas opciones, nuevas y excelentes experiencias de productos y precios competitivos. Perplejidad se esfuerza por ser la empresa más centrada en el conocimiento de la Tierra, y nos complace trabajar con AWS para que nadie aquí tenga que volver a utilizar un motor de búsqueda con 10 enlaces azules.

Pros y Contras

Pros:

– Respuestas personalizadas a tus preguntas

– La IA generativa reduce la necesidad de ingeniería de indicaciones

– Orquestación de diferentes modelos

– Ajuste de modelos de código abierto

– AWS proporciona un servicio personalizado para satisfacer las necesidades de inferencia

– Disponibilidad general de APIs

Contras:

– La IA generativa aún está en sus etapas iniciales

🌟 Aspectos Destacados

– Perplejidad es el motor de respuestas conversacionales líder en el mundo

– Copilot es un compañero interactivo de búsqueda

– Orquestación de diferentes modelos

– Ajuste de modelos de código abierto

– AWS proporciona un servicio personalizado para satisfacer las necesidades de inferencia

– Disponibilidad general de APIs

🤖 Preguntas Frecuentes

P: ¿Qué es Perplejidad?

R: Perplejidad es el motor de respuestas conversacionales líder en el mundo que proporciona respuestas personalizadas a tus preguntas.

P: ¿Qué es Copilot?

R: Copilot es un compañero interactivo de búsqueda que comienza con una pregunta general y profundiza para aclarar tus necesidades.

P: ¿Qué modelos utiliza Perplejidad?

R: Perplejidad orquesta varios modelos diferentes en un solo producto, incluyendo aquellos que hemos entrenado nosotros mismos. Construimos sobre modelos de código abierto como Llama 2 y Mistral, y los ajustamos para que sean precisos y estén en vivo sin límite de conocimiento, basándonos en datos de búsqueda web utilizando la vanguardista RAC.

P: ¿Cuál es la clave del éxito de Perplejidad?

R: Perplejidad decidió apostar por completo en AWS para ejecutar este producto complejo. AWS proporciona un servicio personalizado para satisfacer las necesidades de inferencia, especialmente en instancias pf4 y PFI.

P: ¿Cuál es el futuro de la búsqueda?

R: La IA generativa aún está en sus etapas iniciales y creemos que estamos al comienzo de lo que será una gloriosa revolución para todos nosotros. Los mayores beneficiados serán ustedes, los consumidores de la tecnología, donde tendrán muchas opciones, nuevas y excelentes experiencias de productos y precios competitivos.