Construye tu propio ChatGPT con
Azure OpenAI y tus propios datos
Lautaro Carro
Disclaimer
• Esta presentación contiene toda la
información necesaria para cumplir
con los objetivos mencionados.
• Las demos pueden no ser un tutorial
de paso a paso. Aun así, se compartirá
todo los códigos y recursos utilizados.
• Cualquier opinión es de mi persona y
no de otra entidad.
OpenAI y ChatGPT
• GPT-3 (Generative Pre-trained Transformer 3) es una Inteligencia
artificial o red neuronal de aprendizaje profundo creada por OpenAI.
• ChatGPT es un prototipo de chatbot de GPT desarrollado en 2022.
• El objetivo de OpenAI es desarrollar tecnologías de IA de alta calidad y
de libre acceso para la sociedad en general.
Convenio con Microsoft
• Microsoft ha estado comprometido desde
2016 en la construcción de Azure como una
supercomputadora de inteligencia artificial.
• La asociación se fortaleció en 2019 con
Microsoft invirtiendo mil millones de dólares
en OpenAI.
• En 2022, Microsoft invierte 10,000 millones
de dólares. Entre varios beneficios, Azure se
vuelve el proveedor cloud exclusivo de
OpenAI.
Azure OpenAI Service
• Microsoft lanza Azure OpenAI Service en
Noviembre del 2021.
• En Enero de 2023, liberan Azure OpenAI
Service donde ya todos podemos empezar
a probar los modelos de AI.
• En Marzo del 2023, publican un artículo y
una demo en GitHub de cómo usar Azure
OpenAI Service con Enterprise Data
{
"name": "Lautaro Carro",
"username": "@lauchacarro 📷",
"award": "Microsoft MVP 🏆",
"job": "Tech Lead y Coach en Algeiba 💻",
"communities": ["Latino .NET Online"]
}
https://github.com/Azure-Samples/azure-search-openai-demo/
Temario para hoy:
• Introducción a Azure OpenAI Service
• Azure OpenAI Studio
• Demos C#
• Azure OpenAI Service con nuestros datos
• Explicación de los recursos necesarios
• Demo
• Diseños de Arquitecturas de Aplicaciones Cloud e Hibridas
¿Qué es Azure OpenAI Service?
• Un servicio en la nube proporcionado por Microsoft Azure que
permite a los desarrolladores y empresas aprovechar la potencia
de los modelos de lenguaje de OpenAI, como GPT-3, para mejorar
sus aplicaciones y soluciones empresariales.
Azure OpenAI Service: Funcionalidades
• Finalizaciones (Completions): permite a los usuarios generar texto continuo y completo a partir
de una entrada o un fragmento de texto proporcionado.
• Chat: Permite interactuar con modelos de lenguaje avanzados. Los modelos pueden responder
a preguntas, proporcionar información y participar en conversaciones dinámicas.
• DALL·E: es capaz de crear imágenes a partir de descripciones de texto y permite a los usuarios
experimentar con la generación de imágenes.
Azure OpenAI Studio
ChatGPT con nuestra
propia información
Recursos necesarios
• Azure OpenAI Service
• Azure Blob Storage
• Azure Form Recognizer
• Azure Cognitive Search
• PDF’s con nuestra información
Azure Blob Storage
• Un servicio de almacenamiento en la nube de Microsoft Azure
diseñado para almacenar grandes cantidades de datos no
estructurados, como imágenes, videos o archivos de texto.
• Lo vamos a necesitar para almacenar todos nuestros
documentos con nuestra información.
Azure Cognitive Search
• Un servicio de búsqueda que utiliza técnicas de inteligencia artificial
y aprendizaje automático para permitir la búsqueda y exploración
de grandes volúmenes de datos no estructurados.
• Lo vamos a necesitar para indexar todo nuestro contenido y
realizar búsquedas de la información necesaria.
Azure Form Recognizer (Opcional)
• Un servicio de Azure que utiliza técnicas de inteligencia artificial y
aprendizaje automático para identificar y extraer información clave
de formularios y documentos estructurados.
• Lo vamos a necesitar para separar documentos grandes
en partes más pequeñas.
Diseño de
Arquitecturas
Consumir directamente Azure OpenAI Service
https://github.com/microsoft/sample-app-aoai-chatGPT
https://github.com/lauchacarro/azure-search-openai-console-demo
Azure Search y Azure OpenAI
Retrieval-Augmented Generation
https://github.com/Azure-Samples/azure-
search-openai-demo/
https://github.com/lauchacarro/azure-search-
openai-console-demo
Escalable y con Cache Distribuido
https://github.com/Azure-
Samples/azure-search-
openai-demo-csharp
Orígenes de Datos On-Premise
Conclusiones
• Podemos implementar Azure OpenAI con nuestros datos en :
• Chatbots y asistentes virtuales
• Asistente de búsqueda de información
• Herramientas facilitadoras como generación de contenido especializado
• Los costos son similares a la API original de OpenAI. Con Azure evitamos exponer a todo el
internet nuestros datos.
• Con esta tecnología próximamente podremos crear nuestros plugins para Copilot
Muchas Gracias
