Google y Microsoft tienen la misión de eliminar la monotonía de la informática mediante la incorporación de herramientas de IA de última generación como complementos a los servicios existentes.
El 16 de marzo, Microsoft anunció un sistema impulsado por IA llamada Copilot pronto se presentará a sus aplicaciones de la suite 365, que incluyen Word, Excel, PowerPoint, Outlook y Teams.
La noticia se produjo dos días después de que Google publicara un blog explicando sus planes para incorporar IA en su espacio de trabajo aplicaciones como Documentos, Hojas de cálculo, Presentaciones, Meet y Chat.
En conjunto, millones de personas usan estas aplicaciones todos los días. Reforzarlos con IA podría proporcionar un gran aumento de la productividad, siempre que la seguridad no sea una idea de último momento.
El advenimiento de la IA generativa Hasta hace poco, la IA se usaba principalmente para tareas de categorización e identificación, como reconocer un número. placa utilizando una cámara de tráfico.
La IA generativa permite a los usuarios crear nuevos contenidos mediante la aplicación de algoritmos de aprendizaje profundo a los grandes datos. ChatGPT y DALL-E, entre otros, ya han conquistado el mundo.
Ahora, Microsoft y Google han encontrado una forma más concreta de llevar la IA generativa a nuestras oficinas y aulas.
Al igual que otras herramientas de IA generativa, Copilot y Workspace AI se basan en modelos de lenguaje grandes (LLM) entrenados en cantidades masivas de datos. A través de esta capacitación, los sistemas han”aprendido”muchas reglas y patrones que se pueden aplicar a nuevos contenidos y contextos.
Microsoft’s Copilot se está probando con solo 20 clientes, y se publicarán detalles sobre disponibilidad y precios”en los próximos meses”.
Copilot se integrará en todas las aplicaciones para ayudar a acelerar las tareas tediosas o repetitivas. Por ejemplo: 1. ayudará a los usuarios a escribir, editar y resumir documentos de Word 2. convertir ideas o resúmenes en presentaciones completas de PowerPoint 3. identificar tendencias de datos en Excel y crear rápidamente visualizaciones 4.”sintetizar y administrar”su bandeja de entrada de Outlook 5. proporcionar resúmenes en tiempo real de las reuniones de Teams 6. reunir datos de todos los documentos, presentaciones, correo electrónico, calendario, 7. notas y contactos para ayudar a escribir correos electrónicos y resumir chats.
Suponiendo que ejecuta estas tareas de manera efectiva, Copilot será una actualización masiva del Asistente de Office original de Microsoft, Clippy.
Workspace AI de Google ofrecerá capacidades similares para los suscriptores de pago.
¿Qué hay debajo del capó? Microsoft describió a Copilot como”un sofisticado motor de procesamiento y orquestación que trabaja detrás de escena para combinar el poder de los LLM, incluido GPT-4 […]”. No sabemos específicamente con qué datos se entrenó GPT-4, solo que se trataba de una gran cantidad de datos tomados de Internet y con licencia, según OpenAI.
Google’s Workspace AI se basa en PaLM ( Pathways Language Model), que se entrenó en una combinación de libros, artículos de Wikipedia, artículos de noticias, códigos fuente, páginas web filtradas y conversaciones en redes sociales.
Ambos sistemas están integrados en la infraestructura de nube existente. Esto significa que todos los datos a los que se aplican ya estarán en línea y almacenados en los servidores de la empresa.
Las herramientas necesitarán acceso completo al contenido relevante para proporcionar respuestas contextualizadas. Por ejemplo, Copilot no puede resumir un documento de Word de 16 páginas en una página de viñetas sin analizar primero el texto.
Esto plantea la pregunta: ¿se usará la información de los usuarios para entrenar los modelos subyacentes? En relación con este punto, Microsoft ha dicho:”Los modelos de lenguaje grande de Copilot no están capacitados en el contenido del cliente o en indicaciones individuales”. Google ha dicho: […] los datos privados se mantienen privados y no se usan en el corpus de entrenamiento del modelo básico más amplio.
Estas declaraciones sugieren que el documento de 16 páginas en sí no se usará para entrenar los algoritmos. Más bien, Copilot y Workspace AI procesarán los datos en tiempo real.
Dada la prisa por desarrollar tales herramientas de IA, puede existir la tentación de capacitarlas en datos”reales”específicos del cliente en el futuro.. Por ahora, sin embargo, parece que esto se excluye explícitamente.
Preocupaciones de usabilidad Como muchas personas señalaron después del lanzamiento de ChatGPT, las herramientas de inteligencia artificial generativa basadas en texto son propensas al sesgo algorítmico. Estas preocupaciones se extenderán a las nuevas herramientas de Google y Microsoft.
Los resultados de las herramientas de IA generativa pueden estar plagados de inexactitudes y prejuicios. El propio chatbot Bing de Microsoft, que también se ejecuta en GPT-4, fue criticado a principios de este año por hacer afirmaciones escandalosas.
El sesgo se produce cuando se procesan grandes volúmenes de datos sin una selección o comprensión adecuadas de los datos de entrenamiento. y sin una supervisión adecuada de los procesos de capacitación.
Por ejemplo, gran parte del contenido en línea está escrito en inglés, que es probablemente el idioma principal hablado por las personas (en su mayoría blancas y hombres) que desarrollan herramientas de IA. Este sesgo subyacente puede influir en el estilo de escritura y las construcciones del lenguaje que entienden y, posteriormente, replican los sistemas impulsados por IA.
Por ahora, es difícil decir exactamente cómo se pueden presentar los problemas de sesgo en Copilot o Workspace AI.. Por ejemplo, es posible que los sistemas simplemente no funcionen con tanta eficacia para las personas de países que no hablan inglés, o con diversos estilos de inglés.
Preocupaciones de seguridad Una vulnerabilidad importante en las herramientas de IA de Microsoft y Google es que podrían que sea mucho más fácil para los ciberdelincuentes desangrar a las víctimas.
Mientras que antes un delincuente necesitaba rastrear cientos de archivos o correos electrónicos para encontrar datos específicos, ahora puede usar funciones asistidas por IA para cotejar y extraer lo que necesitan.
Además, dado que hasta ahora no hay indicios de que las versiones fuera de línea estén disponibles, cualquier persona que desee utilizar estos sistemas deberá cargar el contenido relevante en línea. Los datos cargados en línea corren un mayor riesgo de ser violados que los datos almacenados solo en su computadora o teléfono.
Finalmente, desde una perspectiva de privacidad, no es particularmente inspirador ver aún más vías a través de las cuales las corporaciones más grandes en el world puede recopilar y sintetizar nuestros datos.
Los enlaces de afiliados pueden generarse automáticamente; consulte nuestra declaración de ética para obtener más información.