top of page
  • Ameis Lectores A.C.

Trabajadores de Google intentaron impedir el lanzamiento de Bard por temor a respuestas imprecisas

De acuerdo con diferentes medios se ha informado que algunos empleados de Google han expresado preocupaciones sobre el desarrollo de inteligencia artificial (IA) dentro de la compañía. Según el informe, dos empleados encargados de revisar los productos de IA intentaron impedir el lanzamiento del chatbot de IA de Google, denominado Bard, debido a preocupaciones sobre la generación de declaraciones potencialmente peligrosas o falsas.



En marzo, estos empleados, que trabajaban en colaboración con Jen Gennai, directora del grupo de Innovación Responsable de Google, recomendaron bloquear el lanzamiento de Bard en una evaluación de riesgo. A pesar de las medidas de seguridad implementadas, los empleados consideraron que el chatbot no estaba suficientemente preparado para su lanzamiento. No obstante, el informe del New York Times indica que Gennai modificó el documento para eliminar la recomendación y minimizar los riesgos asociados con el chatbot.


Gennai informó a Insider que había incorporado los riesgos potenciales identificados por los revisores y había elevado el análisis resultante a un comité de líderes senior de productos, investigación y negocios, quienes determinaron que era apropiado proceder con un lanzamiento experimental limitado. Gennai también declaró que, según las directrices, los revisores no debían opinar sobre si continuar con el lanzamiento o no.


Un representante de Google aseguró a Insider que la compañía está satisfecha con la acogida inicial de Bard, y que tanto críticos como usuarios reconocen ampliamente que el producto fue lanzado de manera conservadora y con precauciones y límites adecuados.


La preocupación sobre los chatbots de IA no se limita a Google Bard. La rápida implementación de productos de inteligencia artificial generativa ha generado alarma en diversos ámbitos. La popularidad de ChatGPT de OpenAI parece haber impulsado esta carrera de desarrollo, pero también ha llevado a expertos en IA a pedir una pausa de seis meses en el avance de la tecnología en una carta abierta publicada en marzo.


La carta denunciaba una "carrera fuera de control" en el ámbito de la IA y señalaba los profundos riesgos que la tecnología avanzada puede representar para la sociedad. John Burden, uno de los firmantes de la carta e investigador asociado del Centro para el Estudio del Riesgo Existencial, manifestó a Insider que la tasa de desarrollo de la IA se ha acelerado a un ritmo sin precedentes. Según Burden, la sociedad no está preparada para el impacto que la tecnología podría tener, dado que aún no se comprende completamente cómo funcionan estos modelos.

8496 visualizaciones0 comentarios

Comments


bottom of page