ChatGPT Es un prototipo de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI que se especializa en el diálogo. El chatbot es un gran modelo de lenguaje, ajustado con técnicas de aprendizaje tanto supervisadas como de refuerzo. Se basa en el modelo GPT-4 de OpenAI, una versión mejorada de GPT-3. ChatGPT se lanzó el 30 de noviembre de 2022 y ha llamado la atención por sus respuestas detalladas y articuladas, aunque se ha criticado su precisión fáctica. El servicio se lanzó inicialmente como gratuito para el público, con planes de monetizarlo más adelante. El 4 de diciembre, OpenAI calculaba que ChatGPT ya tenía más de un millón de usuarios. El 14 de marzo de 2023 se lanzó GPT-4. El acceso al servicio está limitado en países como China, Rusia, Irán, y partes de África. El acceso a ChatGPT ha sido baneado en Italia debido a que desde las autoridades relacionadas con la protección de datos se estableció que hubo una violación de datos y la base jurídica para utilizar datos personales. 1. CARACTERISTICAS ChatGPT, cuyas siglas proceden del inglés Generative Pre-trained Transformer (en español Transformador Preentrenado Generativo), se perfeccionó sobre GPT-3.5 mediante el aprendizaje supervisado y el aprendizaje por refuerzo. Ambos enfoques utilizaron entrenadores humanos para mejorar el rendimiento del modelo. En el caso del aprendizaje supervisado, se dotó al modelo de conversaciones en las que los formadores jugaban en ambos lados: el usuario y el asistente de IA. En el caso de refuerzo, los entrenadores humanos primero clasificaron las respuestas que el modelo había creado en una conversación anterior. Estas clasificaciones se usaron para crear “modelos de recompensa” en los que el modelo se ajustó aún más usando varias iteraciones de optimización de política próxima (PPO). Los algoritmos de optimización de políticas proximales presentan un beneficio rentable para confiar en los algoritmos de optimización de políticas de región; niegan muchas de las operaciones computacionalmente costosas con un rendimiento más rápido. Los modelos fueron entrenados en colaboración con Microsoft en su infraestructura de supercomputación Azure. En comparación con su predecesor, InstructGPT, ChatGPT intenta reducir las respuestas dañinas y engañosas; en un ejemplo, mientras que InstructGPT acepta el mensaje "Cuénteme sobre cuándo llegó Cristóbal Colón a los Estados Unidos en 2015" como veraz, ChatGPT usa información sobre los viajes de Colón e información sobre el mundo moderno, incluidas las percepciones de Colón para construir una respuesta que asume qué pasaría si Colón llegara a los Estados Unidos en 2015. Los datos de capacitación de ChatGPT incluyen páginas e información sobre los fenómenos de Internet y los lenguajes de programación, como los sistemas de tablones de anuncios y el lenguaje de programación Python. A diferencia de la mayoría de los chatbots, ChatGPT tiene estado, recuerda las indicaciones anteriores que se le dieron en la misma conversación, lo que, según han sugerido algunos periodistas, permitirá que ChatGPT se use como un terapeuta personalizado. En un esfuerzo por evitar que se presenten y se produzcan resultados ofensivos desde ChatGPT, las consultas se filtran a través de una API de moderación y se descartan las indicaciones potencialmente racistas o sexistas. ChatGPT tiene múltiples limitaciones. El modelo de recompensa de ChatGPT, diseñado en torno a la supervisión humana, puede optimizarse en exceso y, por lo tanto, dificultar el rendimiento, lo que también se conoce como la ley de Goodhart. Además, ChatGPT tiene un conocimiento limitado de los eventos que ocurrieron después de 2021 y no puede proporcionar información sobre algunas celebridades. En el entrenamiento, los revisores prefirieron respuestas más largas, independientemente de la comprensión real o el contenido fáctico. Los datos de entrenamiento también pueden sufrir sesgos algorítmicos; las indicaciones que incluyen descripciones vagas de personas, como un director ejecutivo, podrían generar una respuesta que asume que esa persona, por ejemplo, es un hombre blanco. El 17 de enero de 2023 Microsoft anunció que van a implementar ChatGPT como API en sus servicios de Azure. 2. HISTORIA Brecha de seguridad de marzo de 2023 En marzo de 2023, un fallo permitió a algunos usuarios ver los títulos de las conversaciones de otros usuarios. El consejero delegado de OpenAI, Sam Altman, declaró que los usuarios no podían ver el contenido de las conversaciones. Poco después de que se corrigiera el fallo, los usuarios no pudieron ver su historial de conversaciones. Informes posteriores mostraron que el fallo era mucho más grave de lo que se creía en un principio, y OpenAI informó de que se había filtrado el "nombre y apellidos, dirección de correo electrónico, dirección de pago, los cuatro últimos dígitos (únicamente) de un número de tarjeta de crédito y la fecha de caducidad de la tarjeta de crédito" de los usuarios. 3. RECEPCIÓN ChatGPT ha recibido críticas generalmente positivas. Samantha Lock de The Guardian señaló que podía generar texto "impresionantemente detallado" y "similar a un humano". El escritor de tecnología Dan Gillmor usó ChatGPT en una tarea de un estudiante y descubrió que el texto generado estaba a la par con lo que entregaría un buen estudiante y opinó que "la academia tiene algunos problemas muy serios que enfrentar". Alex Kantrowitz de Slate elogió el rechazo de ChatGPT a preguntas relacionadas con la Alemania nazi, incluida la afirmación de que Adolf Hitler construyó carreteras en Alemania, que se encontró con información sobre el uso de trabajo forzado por parte de la Alemania nazi. En un artículo de opinión de diciembre de 2022, el economista Paul Krugman escribió que ChatGPT afectaría la demanda de trabajadores del conocimiento. James Vincent, de The Verge, vio el éxito viral de ChatGPT como evidencia de que la inteligencia artificial se había generalizado. En The Atlantic, Stephen Marche señaló que su efecto en la academia y especialmente en los ensayos de aplicación aún no se ha entendido. El maestro de secundaria y autor de California, Daniel Herman, escribió que ChatGPT marcará el comienzo de "El fin del inglés de la escuela secundaria". 4. Falsas respuestas Se ha cuestionado la exactitud de los hechos de ChatGPT, entre otras preocupaciones. Mike Pearl de Mashable probó ChatGPT con varias preguntas. En un ejemplo, le preguntó al modelo por "el país más grande de América Central que no es México. ChatGPT respondió con Guatemala, cuando la respuesta es Nicaragua. En diciembre de 2022, el sitio web de preguntas y respuestas Stack Overflow prohibió el uso de ChatGPT para generar respuestas a preguntas, citando la naturaleza objetivamente ambigua de las respuestas de ChatGPT. El economista Tyler Cowen expresó su preocupación por sus efectos en la democracia, citando la capacidad de uno para escribir comentarios automatizados en un esfuerzo por afectar el proceso de decisión de las nuevas regulaciones. Ax Sharma de Bleeping Computer y Checkpoint Research, señalaron que ChatGPT era capaz de escribir malware(Programa o codigo maligno) y correos electrónicos de phishing(Sustitir al real). Debido a que ChatGPT simplemente trata de completar estadísticamente un texto, es capaz de inventar respuestas. Por ejemplo, dado que los títulos de artículos de economía incluyen más las palabras "economía" y "teoría" que cualesquiera otras, y que el más citado economista es Douglass Nort, ChatGPT inventa que el artículo más citado es «Una teoría de la historia económica», de North. North nunca escribió artículo alguno con dicho título. 5. Advertencias El empresario Elon Musk, que fue uno de los fundadores de OpenAI y más de mil científicos alertaron sobre un posible "riesgo para la sociedad y la humanidad" y pidieron detener su desarrollo por 6 meses por considerar que puede ser aún más peligroso que una guerra nuclear. El principal argumento es que en la medida que evolucione sin límites éticos y ningún control específico, podrá tomar decisiones que pongan en peligro a la humanidad. 6. Prohibición En marzo de 2023, Italia decidió bloquear a ChatGPT por considerar que no respeta la ley de protección de datos de los consumidores y que la plataforma recoge datos de los usuarios de forma ilegal. Dicha prohibición se levantará cuando se demuestre que cumple con las normas italianas de privacidad. El Garante italiano para la Protección de Datos Personales abrió una investigación para determinar si se cometió una infracción, alegando también que la información de ChatGPT “no siempre se corresponde con los datos reales”. También manifestaron preocupación por la ausencia de filtros para verificar la edad de los usuarios, siendo que el servicio está dirigido a mayores de 13 años. 7. Impacto Cultural Durante los tres primeros meses, tras la puesta a disposición del público de ChatGPT, aparecieron en Amazon cientos de libros en los que figuraba como autor o coautor, con ilustraciones realizadas por otros modelos de IA como Midjourney. Entre marzo y abril de 2023, el periódico italiano II Foglio publicó un artículo diario generado por ChatGPT en su página web oficial, organizando un concurso especial para sus lectores. Los artículos abordaban temas como la posible sustitución de periodistas humanos por sistemas de IA, la administración de Twitter por parte de Elon Musk, la política de inmigración del gobierno de Meloni y la competencia entre chatbots y asistentes virtuales. 8. Implicaciones para la educación En la revista The Atlantic, Stephen Marche, señaló que aún no se conoce su efecto en el mundo académico y, en especial, en las redacciones de solicitudes de admisión. El profesor de secundaria y escritor californiano Daniel Herman escribió que ChatGPT marcaría el comienzo de "El fin del inglés en secundaria". En la revista Nature, Chris Stokel-Walker señaló que los profesores deberían preocuparse de que los estudiantes utilicen ChatGPT para externalizar su escritura, pero que los proveedores de educación se adaptarán para mejorar el pensamiento crítico o el razonamiento. Emma Bowman, de NPR, escribió sobre el peligro de que los estudiantes plagien a través de una herramienta de IA que puede producir textos sesgados o sin sentido con un tono autoritario: "Todavía hay muchos casos en los que le haces una pregunta y te dará una respuesta que suena muy impresionante y que está totalmente equivocada". Joanna Stern, de The Wall Street Journal, describió cómo se copiaba con esta herramienta en un examen de inglés de un instituto estadounidense al enviar una redacción generada. El profesor Darren Hick, de la Universidad de Furman, describió cómo se dio cuenta del "estilo" de ChatGPT en un trabajo enviado por un estudiante. Un detector de GPT en línea afirmaba que el trabajo tenía un 99,9 % de probabilidades de ser generado por ordenador, pero Hick no tenía pruebas fehacientes. Sin embargo, el estudiante en cuestión confesó haber utilizado GPT cuando se le confrontó y, como consecuencia, suspendió el curso. Hick sugirió la política de realizar un examen oral individual ad hoc sobre el tema del trabajo si se sospecha que un estudiante ha presentado un trabajo generado por IA. A partir del 4 de enero de 2023, el Departamento de Educación de la ciudad de Nueva York ha restringido el acceso a ChatGPT desde Internet y los dispositivos de sus escuelas públicas. En febrero de 2023, la Universidad de Hong Kong envió un correo electrónico a instructores y estudiantes de todo el campus en el que se indicaba que el uso de ChatGPT u otras herramientas de IA está prohibido en todas las clases, tareas y evaluaciones de la universidad. Cualquier infracción será tratada como plagio por la universidad a menos que el estudiante obtenga el consentimiento previo por escrito del instructor del curso. Fuente: Wikipedia 2023