Amazon no quiere perder la oportunidad de negocio que supone la IA generativa y, consecuentemente, presentó recientemente y todavía en modo preview, su chatbot Q, el cual está enfocado preeminentemente a aplicaciones profesionales.
Q permite a los miembros de una organización (por ejemplo, los trabajadores de una empresa) consultar documentos y sistemas corporativos, automatizando la gestión y consulta de información para ahorrar tiempo y ganar en eficiencia.
También ofrece la capacidad de analizar documentos corporativos, bases de datos y código para responder a preguntas, generar contenido y llevar a cabo acciones.
Amazon plantea ofrecer dos niveles de servicio: un chatbot básico por 20 dólares mensuales (que es el mismo precio que se paga por ChatGPT), y una versión avanzada que incluye generación de código, solución de problemas, evaluación de seguridad y asistencia humana de Amazon Web Services, todo ello por 25 dólares mensuales.
Si bien desde la compañía aseguran que no utilizarán los datos de los usuarios de Q para entrenar modelos de aprendizaje automático (algo lógico teniendo en cuenta que pueden incluir datos sensibles de la organización), desde The Batch (la newsletter de DeepLearning.AI) podemos leer que a los pocos días de su presentación, pruebas internas revelaron que Q podría filtrar información confidencial de Amazon, como programas de descuentos internos, características no publicadas y ubicaciones de centros de datos de AWS, lo que deja una sombra de duda sobre si esto mismo puede pasar con datos de sus clientes.
Portavoces de Amazon calificaron estos escenarios de hipotéticos y negaron que Q haya filtrado dicha información.
Además de esto, empleados de Amazon empezaron a señalar problemas técnicos a través de canales internos como Slack y sistemas de información de seguridad, entre los cuales se encontraba el hecho de que Q proporcionaba recomendaciones inexactas sobre soberanía digital, una cuestión legal compleja especialmente en Europa, y también se emitió una alerta "sev 2", indicando un problema lo suficientemente grave como para requerir la intervención de ingenieros fuera del horario laboral.
Este tipo de problemas no son exclusivos de Q, ya que otras herramientas similares de otras compañías de IA se han enfrentado a problemas parecidos.