BIBLIOTECA VIRTUAL
INTEGRIDAD ACADÉMICA
LA INTELIGENCIA ARTIFICIAL
Históricamente, el ser humano se ha preocupado por demostrar sus habilidades de razonamiento, análisis, planificación y su capacidad de solucionar determinados problemas, y ha buscado cómo crear sistemas artificiales que imiten las habilidades mentales de los humanos, para simplificar y mejorar los procesos (Alvarado, 2015). Es así como se originó la llamada Inteligencia Artificial (IA) que con el decursar del tiempo se ha ido potenciando y hoy se extiende a otro nivel conocido como Inteligencia Artificial Generativa (IAG).
¿QUÉ ES LA INTELIGENCIA ARTICIFICIAL GENERATIVA (IAG)?
¿QUÉ ES LA INTELIGENCIA ARTICIFICIAL GENERATIVA (IAG)?
La IA generativa es un tipo de inteligencia artificial basada en modelos funcionales (FM) muy grandes de machine learning que son entrenados previamente con cuantiosos datos, permitiendo generar ideas y contenidos nuevos tales como; conversaciones, historias, imágenes, videos y música, además de, mejorar la calidad de éstos, editar videos, diseñar prototipos de forma rápida para fabricación, aumentar los datos con conjuntos de datos sintéticos, entre otras funcionalidades (Gamboa et al., 2024).
INTELIGENCIA ARTIFICIAL TRACICIONAL VS INTELIGENCIA ARTIFICIAL GENERATIVA
| INTELIGENCIA ARTIFICIAL TRADICIONAL | INTELIGENCIA ARTIFICIAL GENERATIVA |
|---|---|
| La IA tradicional está enfocada en mejorar, la precisión y eficacia en tareas automatizadas que son bien definidas y específicas para el reconocimiento de voz, análisis predictivo y la detección de fraudes. Dentro de sus métodos están: la utilización de algoritmos de aprendizaje revisados y no revisados, redes neuronales y técnicas de análisis estadístico, los cuales son entrenados con una cantidad significativa de datos etiquetados, que permiten realizar las predicciones e identificar patrones. | La IA generativa tiene la finalidad de generar contenido nuevo, no previamente existente, como: la creación de texto, imágenes, música entre otros tipos de contenidos creativos, imitando la inteligencia humana y desarrollando soluciones innovadoras. Como parte de su metodología está, utilizar modelos avanzados como Generative Adversarial Networks (GANs) y Transformadores (como GPT-4 que son entrenados con grandes conjuntos de datos para aprender a crear contenido realista y coherente a partir de descripciones o ejemplos. |
| Ventajas: · Alta precisión en tareas específicas. · Eficiencia y rapidez en el procesamiento de grandes volúmenes de datos. · Estabilidad y consistencia en los resultados. | Ventajas: · Capacidad de crear contenido original y variado. · Innovación en campos creativos y de entretenimiento. · Flexibilidad para adaptarse a diferentes contextos y necesidades |
| Desventajas: · Limitada a las tareas para las que fue entrenada. · Requiere datos etiquetados y específicospara el entrenamiento. · Menor capacidad de adaptación a nuevos problemas o contextos. | Desventajas: · Calidad y coherencia del contenido pueden variar. · Necesidad de grandes volúmenes de datos para entrenar los modelos. · Desafíos éticos y de propiedad intelectual asociados con el contenido generado. |
| Adaptado de: Schiaffino, l. (21de junio de 2024). Diferencia entre IA y IA Generativa: Beneficios y Aplicaciones. Darwin Ai. https://blog.getdarwin.ai/es/content/diferencia-entre-ia-y-ia-generativa-beneficios-y-aplicaciones | |
Bibliografía Recomendada:
· https://cens.cl/wp-content/uploads/2024/05/Politica-Nacional-de-IA-Actualizada-2-05.pdf
· Cómo usar ChatGPT para potenciar el aprendizaje activo https://biblioteca.unab.cl/wp-content/uploads/2023/06/Guia-para-Docentes-Como-usar-ChatGPT-Mineduc.pdf
USO ÉTICO DE LA INFORMACIÓN GENERADA CON INTELIGENCIA ARTIFICIAL GENERATIVA (IAG) DESDE LA MIRADA DE ALGUNAS EDITORIALES.
La inteligencia artificial generativa llegó para quedarse, por tal motivo es importante comprender el uso correcto que podemos darle a estas herramientas y los límites a respetar. Aunque este es un tema que se está desarrollando muy rápidamente y aun no hay una postura concluyente, ya varias editoriales se han pronunciado al respecto para prevenir a los autores sobre posibles usos de la IAG.
En el siguiente cuadro se presentan los criterios de algunas editoriales científicas.
Considera que los autores de trabajos científicos utilizan herramientas de lenguaje impulsadas por IA para realizar y preparar el informe, desde aquellas más sencillas hasta las más sofisticadas y acotan que dichas herramientas si bien pueden gestar resultados útiles y provechosos, del mismo modo pueden generar resultados erróneos o engañosos; por lo tanto, admiten que es necesario conocer los tipos de herramientas utilizadas en los trabajos científicos (instrumentos, software; IAG) y que éstas sean descritas conforme a los estándares temáticos en la sección metodología, para su evaluación e interpretación, destacando que son los autores de un artículo quienes asumen la total responsabilidad del contenido generado.
COPE se suma a los lineamientos de la mayoría de las editoriales para ratificar que las herramientas tecnológicas asistidas por IA o modelos de lenguaje grande (LLM) no pueden comparecer como autores de un artículo al no cumplir con los requisitos de autoría. Es decir, como entidades no jurídicas, no pueden afirmar la presencia o ausencia de conflictos de intereses, ni gestionar acuerdos de derechos de autor y licencias. Los autores, son totalmente los responsables del contenido de su manuscrito, incluyendo aquellas partes producidas por una herramienta de IA; por lo tanto, en ellos recae el peso de cualquier incumplimiento de la ética de publicación. Si los autores utilizan alguna de las herramientas de IA antes mencionadas, ya sea para la redacción de un manuscrito, producción de imágenes o elementos gráficos, o en la recopilación y análisis de datos, éstos deberán explicarlo transparentemente en la sección de “Materiales y Métodos” (u otra similar) en el artículo, a modo de justificar qué tipo de herramienta de IA o LLM se utilizó y cómo fue utilizada.
Committee on Publication Ethics. (2023b). Authorship and AI tools: COPE position statement.
https://publicationethics.org/cope-position-statements/ai-author
Cuando los autores utilicen IA y tecnologías asistidas por IA en el proceso de redacción, estas deben utilizarse únicamente para mejorar la legibilidad y el lenguaje de la obra y no para suplir tareas clave de la autoría tales como: producir conocimientos científicos, médicos o pedagógicos, extraer conclusiones científicas o brindar recomendaciones clínicas. Al aplicar la tecnología, deberá realizarse con supervisión y control de humanos, y todo el trabajo deberá revisarse y editarse esmeradamente, considerando que la IA puede generar un tono autoritario, pero incorrecto, incompleto o sesgado. Son los autores los responsables del contenido de la obra y no deben incluir ni citar a la IA ni a las tecnologías asistidas por IA como autor o coautor; ellos deben garantizar la originalidad del trabajo y que no se vulneren los derechos de terceros. Por otra parte, los autores deben divulgar en sus manuscritos el uso de IA y tecnologías asistidas por IA e incluir en el trabajo publicado una declaración al respecto para fomentar la transparencia y la confianza entre autores, lectores, revisores, editores y colaboradores, facilitando el cumplimiento de los términos de uso de la herramienta o tecnología pertinente.
Elsevier. (2023c). The use of generative AI and AI-assisted technologies in writing for Elsevier.
https://beta.elsevier.com/about/policies-and-standards/the-use-of-generative-ai-and-ai-assisted-technologies-in-writing-for-elsevier
Los artículos, estudios de casos y capítulos enviados a Emerald para su consideración y revisión deben tratarse como confidenciales; por lo que no deben compartirse, ni cargarlos en una herramienta de IA o en un modelo de lenguaje grande (LLM) para su evaluación, ya que violaría la confidencialidad del autor, al igual que cualquier derecho de privacidad y propiedad de datos. Del mismo modo, lo anterior se aplicaría para el informe de revisión por pares, debido a los sesgos en los conjuntos de datos de estos modelos y la confiabilidad de su capacidad para evaluar el contenido, con el riesgo de generar resultados falsos, defectuosos o inexactos.
Emerald Publishing. (2023). Publishing ethics: Find out more about publication ethics and our policies.
https://www.emeraldgrouppublishing.com/publish-with-us/ethics-integrity/research-publishing-ethics
Refiere que, los autores no deben citar ni incluir a las tecnologías asistidas por IA tales como modelos LLM, chatbots o creadores de imágenes, como autor o coautor, debido a que estas herramientas tecnológicas no pueden ser responsables de la claridad, integridad y originalidad del trabajo; por tanto, la responsabilidad recae en los humanos. Al enviar un artículo, la revista debe exigir a los autores que informen si utilizaron dichas tecnologías asistidas por IA en la elaboración del trabajo; esto significa que, de ser utilizadas, deberán explicarlo tanto en la carta de presentación como en la sección correspondiente (metodología, agradecimientos u otra sujeta a la política de la editorial) en el trabajo enviado. Los autores deben cuidadosamente revisar y editar el resultado considerando que la IA puede generar un resultado que parezca confiable, como también otro que esté incorrecto, incompleto o parcial.
International Committee of Medical Journal Editors. (2023). Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals.
https://www.icmje.org/icmje-recommendations.pdf
Reconoce el valor de los grandes modelos lingüísticos (LLM) y la IA Generativa como herramientas de productividad que pueden favorecer a los autores en la generación de ideas iniciales para estructurar, resumir o preparar sus artículos; además de perfeccionar el lenguaje, etc., antes de ser enviado. Sin embargo, igual destaca que, todos los modelos lingüísticos poseen limitaciones que impiden replicar el pensamiento creativo y crítico humano y que, por lo tanto, los bots de IA similares a ChatGPT, Claude entre otros, no deben figurar como autores en el manuscrito. Sage convoca a los autores a indicar con claridad en la sección de “Métodos o Agradecimientos” del trabajo, (según corresponda) el tipo de modelo lingüístico utilizado y revelar cómo se utilizó. Verificar la validez, exactitud e idoneidad tanto del contenido como de las citas generadas por los modelos LLM, así como subsanar cualquier inconsistencia, errores o potenciales sesgos.
Sage. (2023). ChatGPT and generative AI: Use of large language models and generative AI tools in writing your submission.
https://us.sagepub.com/en-us/nam/chatgpt-and-generative-ai
Refiere que las tecnologías asistidas por IA como los modelos de lenguaje extenso (LLM), los chatbots y los creadores de imágenes, no cumplen con los criterios de autoría de las revistas científicas; por lo tanto, no pueden figurar como autores o coautores, ni pueden ser creadas o coescritas por herramientas de IA. Los autores que utilicen tecnologías asistidas por IA como componentes de su estudio de investigación o como ayudas en la redacción o presentación del manuscrito deben indicarlo en la carta de presentación y en la sección de “Agradecimientos” del manuscrito. Igual se debe proporcionar información detallada en la sección de “Métodos”, se debe divulgar el mensaje completo utilizado en la producción del trabajo, así como la herramienta de IA y su versión. Los autores son responsables de la precisión e integridad del trabajo, asegurándose de citar adecuadamente las fuentes y de revisar cuidadosamente el trabajo para protegerse contra el sesgo que pueda introducir la IA. Los revisores no pueden utilizar tecnología de inteligencia artificial para generar o escribir sus revisiones porque esto podría violar la confidencialidad del manuscrito.
Science. (2024). Science Journals: Editorial Policies.
https://www.science.org/content/page/science-journals-editorial-policies?adobe_mc=MCMID%3D49314847649293452802385446557443098074%7CMCORGID%3D242B6472541199F70A4C98A6%2540AdobeOrg%7CTS%3D1679610666
Los modelos de lenguaje extensos LLM, como ChatGPT (u otros similares), actualmente no satisfacen los criterios de autoría de la casa editora. Ellos destacan que la atribución de autoría conlleva a la responsabilidad por el trabajo, por ende, no puede ser aplicable de manera efectiva a los LLM. Al aplicar cualquier herramienta o modelo LLM, éstos deben justificarse adecuadamente en la sección de “Métodos” o en otra sección alternativa del manuscrito. Reconocen que el rápido avance de la creación de imágenes con IA generativa ha dado pie a nuevos problemas legales relacionados con los derechos de autor y la integridad de la investigación. Sin embargo, la editorial sigue estrictamente la legislación vigente sobre derechos de autor y las mejores prácticas en materia de ética de publicación. Por otra parte, refieren que, si bien las trabas legales relacionadas con las imágenes y vídeos creados con IA continúan sin ser resueltos en gran medida, las revistas Springer Nature, no pueden permitir su uso para publicaciones; exceptuando las imágenes y el arte adquirido de forma legalmente aceptable por agencias con las que tienen relaciones contractuales. Otras excepciones, incluyen imágenes y videos a los que se hace referencia directa en un artículo que tratan específicamente sobre IA, las cuales serán revisadas caso por caso.
Springer Nature. (2023). Artificial intelligence (AI). Nature Portfolio.
https://www.nature.com/nature-portfolio/editorial-policies/ai
Plantea que los autores son responsables de la originalidad, validez e integridad del contenido de sus envíos. Por lo que de utilizarse herramientas de IA generativa (LLM, chatbots, etc.) para la creación de contenidos, se espera que los autores estén conscientes de que el uso de tales herramientas tecnológicas, deberán cumplir con los criterios de autoría y principios éticos de la editorial. Taylor & Francis apoya el uso responsable de herramientas de IA generativa que respeten altos estándares de seguridad de datos, confidencialidad y protección de derechos de autor, además de, reconocerlas y declararlas adecuadamente en el trabajo creado.
Taylor & Francis Group. (2023). Defining authorship in your research paper: Co-authors, corresponding authors, and affiliations. Author Services.
https://authorservices.taylorandfrancis.com/editorial-policies/defining-authorship-research-paper
Wiley puntualiza que cuando un autor utilice una herramienta AI Generativa para crear contenido en alguna parte del manuscrito, debe declararse y detallar transparentemente su uso en la sección “Métodos” o “Agradecimientos” según corresponda. El autor es totalmente responsable de la precisión de la información desarrollada por algún tipo de herramienta asistida de IA, así como de hacer la referencia correcta a cualquier trabajo de apoyo sujeto a esa información. Las herramientas AI Generativa no deben utilizarse para crear, alterar o manipular datos y resultados de investigación originales sin la dirección de seres humanos. Tampoco pueden ser responsables del diseño de investigación o de un trabajo publicado, ya que es un requisito general de autoría y en materia legislativa no están facultadas para tener o ceder derechos de autor. Por lo tanto, en congruencia con la declaración de COPE sobre autoría y herramientas de IA, no pueden ejercer el rol de autor ni figurar como tal en un artículo.
Wiley. (2023). Best practice guidelines on research integrity and publishing ethics.
https://authorservices.wiley.com/ethics-guidelines/index.html
En cuanto al uso, mejoramiento o creación de las imágenes hay consenso en prohibir el uso de IAG. Existen herramientas como Proofig (https://www.proofig.com/) que revisan y detectan la integridad de las imágenes e informan si éstas son reales o alteradas.
USO ÉTICO Y RESPONSABLE DE LA INTELIGENCIA ARTIFICIAL GENERATIVA (IAG)
La llegada de la IAG alertó a todas las instituciones, teniendo que replantearse cómo integrarlas en los distintos procesos y cómo usarla de manera ética y responsable, debido a que, con la creación de nuevos contenidos, las máquinas pueden comprometer su originalidad y credibilidad. Por eso es necesario que las capacidades de inteligencia artificial se construyan basadas en la confianza y que contengan guías de uso añadidas a las herramientas para orientar y prevenir pronto eventuales problemas (Gamboa et al., 2024).
La IAG llegó para quedarse, trayendo consigo incertidumbre en el sector educativo y por ende, en el tradicional sistema de enseñanza-aprendizaje. La educación ha tenido que adaptarse a las exigencias de la IAG, adquiriendo destrezas más creativas, personalizadas e interactivas de la mano de estudiantes y docentes. Si bien, esta combinación facilita un camino educativo eficiente, es importante afrontar los desafíos pedagógicos, éticos y digitales para garantizar un aprendizaje enriquecedor y fomentar el futuro de la educación global a través del correcto uso de la tecnología (Gamboa et al., 2024).
La IAG, el texto generado por IA y las aplicaciones o modelos de lenguaje como ChatGPT, Claude, Tomme, Pilot entre otras, están siendo utilizadas cada vez más en la realización de trabajos académicos o de investigación. Esta realidad ha hecho que las instituciones educativas asuman un gran desafío, generando rápidamente estrategias de acción que permitan aprovechar el uso de varias herramientas inteligentes en el proceso de enseñanza-aprendizaje y saber citar la información de las fuentes utilizadas correctamente en el trabajo, sin infringir los derechos de terceros.
https://elibro-net.recursosbiblioteca.unab.cl/es/ereader/unabcl/57582?page=13
CÓMO CITAR INFORMACIÓN GENERADA CON APLICACIONES DE INTELIGENCIA ARTIFICIAL GENERATIVA (IAG) SEGÚN EL ESTILO APA.
En el caso de aplicaciones o modelos de IA como ChatGPT u otras similares, la cita corresponde a la respuesta que se entrega, es decir una obra intelectual producto de un algoritmo.
Los resultados de un «chat» de ChatGPT no son recuperables por otros usuarios, y aunque los datos no recuperables se citan en estilo APA como comunicaciones personales, con ChatGPT no existe una persona con la que el usuario de comunique para obtener una respuesta. Se debe considerar entonces como autor de ChatGPT a OpenAI.
Ejemplo de Cita y Referencia:
- Cita parentética: (OpenAI, 2023)
- Cita narrativa: OpenAI (2023)
OpenAI. (2023). ChatGPT (versión 14 de mar) [Large language Model].
Autor: OpenAI o el que corresponda a la aplicación o modelo de IA que esté utilizando.
Fecha: Corresponde al año de la versión que se está utilizando. No es necesario incluir la fecha exacta, sólo el año.
Título:
- Nombre de la aplicación o modelo «ChatGPT» u otro. Se escribe en cursiva.
- Luego se escribe el número de la versión entre paréntesis que incluye la fecha porque es así como OpenAI etiqueta sus versiones de ChatGPT. Si se utiliza otra aplicación o modelo la versión podría ser, por ejemplo: (versión 2.0).
- Por último, entre corchetes se referencia una descripción normalizada de lo que se está citando. En este caso, «[Large language model]».
Fuente: Se indica directamente la URL. Esto debido a que, si los nombres del editor y el
autor son iguales, no se repite el nombre del editor en el elemento Fuente.
OTROS ASPECTOS QUE CONSIDERAR EN LA CITACIÓN.
Es importante señalar que la IA generativa debe ser utilizada para apoyar la creación de un texto o facilitar la investigación, pero no para escribir el texto completo de un trabajo o artículo académico. Además, es recomendable describir cómo se usó la aplicación IAG en una sección de su trabajo, por ejemplo, en la introducción, en la metodología, o en apéndices o anexos.
Se debe indicar el texto que se utilizó para hacer la consulta y luego lo más relevante del texto que obtuvo como respuesta.
Ejemplo:
Texto de la pregunta realizada: «¿Qué orden de ideas considerar para llevar a cabo un emprendimiento…?
El texto relevante en respuesta que generó ChatGPT fue: «Las partes para ejercer un emprendimiento…» (OpenAI, 2023).
Si se cita en apéndices se debe indicar como: (OpenAI, 2023; ver Apéndice B para una transcripción completa).
Se debe documentar el texto exacto generado por IA y las aplicaciones o modelos de lenguaje como ChatGPT, Claude, Tomme, Pilot entre otras, porque es una respuesta única en cada sesión de chat, incluso si se vuelve a formular la misma pregunta en otro momento.
FUENTES QUE UTILIZA LA APLICACIÓN O EL MODELO IAG PARA RESPONDER
Cuando se recibe la respuesta a las consultas que se plantean en la IAG que se está utilizando, esta respuesta no viene acompañada por citas de las fuentes donde se obtuvo esa información. Es recomendable también preguntar por una lista de fuentes que respalden la respuesta entregada por chatbots generativos, o la aplicación IA que se esté utilizando.
La existencia de esta lista de fuentes referenciadas deberá luego ser verificada, ya que existen casos en que la referencia entregada no es real y no se puede encontrar ningún artículo con los autores, título o fecha de la fuente que proporcionó el Chatbots.
Fuente: How to cite ChatGPT (https://apastyle.apa.org/blog/how-to-cite-chatgpt)
LISTA DE REFERENCIAS Y CITAS EN EL ESTILO APA U OTRO ESTILO UTILIZANDO IAG
No es recomendarlo utilizar IA para generar listas de referencias y citas, ya que, aunque es sencillo hacerlo, no entrega una estructura correcta y no extrae todos los datos necesarios para realizarlas.
Los gestores de referencia como «Zotero» o «Mendeley» pueden ser más útiles para realizar listas de referencia y citas, así como la consulta a nuestras bibliotecarias especializadas.
Existen talleres en nuestro Sistema de Biblioteca sobre:
«Gestor Bibliográfico Zotero», «Gestor Bibliográfico Mendeley» y «Estilo Bibliográfico APA». Inscríbete en https://biblioteca.unab.cl/talleres-dci-webinar/
TIPOS DE HERRAMIENTAS INTELIGENTES
Hay muchas aplicaciones inteligentes que, aunque pueden optimizar los procesos de aprendizaje, no dejan de preocupar la forma en que la utilizan los estudiantes para la realización de trabajos académicos o de investigación; por lo que al usar información de estas fuentes hay que acreditar las citas correspondientes. De esta manera se fomenta la integridad académica y se cumplen con los estándares éticos y legales establecidos.
La IAG llegó para quedarse, trayendo consigo incertidumbre en el sector educativo y por ende, en el tradicional sistema de enseñanza-aprendizaje. La educación ha tenido que adaptarse a las exigencias de la IAG, adquiriendo destrezas más creativas, personalizadas e interactivas de la mano de estudiantes y docentes. Si bien, esta combinación facilita un camino educativo eficiente, es importante afrontar los desafíos pedagógicos, éticos y digitales para garantizar un aprendizaje enriquecedor y fomentar el futuro de la educación global a través del correcto uso de la tecnología (Gamboa et al., 2024).
La IAG, el texto generado por IA y las aplicaciones o modelos de lenguaje como ChatGPT, Claude, Tomme, Pilot entre otras, están siendo utilizadas cada vez más en la realización de trabajos académicos o de investigación. Esta realidad ha hecho que las instituciones educativas asuman un gran desafío, generando rápidamente estrategias de acción que permitan aprovechar el uso de varias herramientas inteligentes en el proceso de enseñanza-aprendizaje y saber citar la información de las fuentes utilizadas correctamente en el trabajo, sin infringir los derechos de terceros.
https://elibro-net.recursosbiblioteca.unab.cl/es/ereader/unabcl/57582?page=13
HERRAMIENTAS DE IA GENERATIVA CON POTENCIAL USO EDUCATIVO
| Generación de texto | Apoyo a la investigación | ChatPDF, Consensus, Elicit, Humata, Klavier, SciSpace Copilot, Scite Assistant, Trinka |
| Chatbot | ChatGPT, CharSonic, Claude | |
| Creación de contenidos | Jasper, Notion | |
| Enseñanza de idiomas | Twee | |
| Generador de currículo personal | Resume Builder | |
| Generador de exámenes | Conker, Monic | |
| Herramientas ofimáticas | Google Workspace, Microsoft 365 Copilot | |
| Motor de búsqueda | Microsoft Bing, Perplexity, You | |
| Parafraseo de texto | Quillbot | |
| Generación de imágenes | Generación de grafos | GraphGPT |
| Generación de imágenes | Adobe Firefly, Bing Image Creator, Craiyon, DALL.E 2, Deep Dream Generator, Dream by Wombo, Leap, Midjourney, NightCafe, Stable Diffusion Online, Starryai, Stockkimg, Visual ChatGPT, Proofig (figuras) | |
| Generación de presentaciones | ChatBA, Decktopus, GPT for Slides, SlidesAI | |
| Generación de videos | Conversor de vídeo a texto | YoutubeDigest |
| Generación de videos | Fliki, Gencraft, Imagen video, Make a video | |
| Generación de objetos 3D | Generación de objetos 3D | AICommand, DreamFusion, GET3D, Imagine 3D |
| Generación de audio | Conversor de voz a texto | Otter, Transkriptor |
| Generación de audio | AudioLM, Lovo, Murf.ai, Voicemaker | |
| Modulador de voz | Voicemod | |
| Generación de código fuente | Depuración de código | Adrenaline, Code GPT |
| Generación de código | Amazon Code Whisper, Codeium, Ghostwriter, Github copilot, Text2SQL | |
| Detección de textos generados con IA | Antiplagio | Turnitin |
| Detección de textos generados con IA | AI Text Classifier, GPTZero ((https://gptzero.me/) | |
| CopyLeaks (https://copyleaks.com/ai-content-detector ) | ||
| Academic AI Detector de Typeset (https://typeset.io/ai-detector) |
Adaptado de: García-Peñalvo, F.J., Llorens-Largo, F., & Vidal, J. (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED-Revista Iberoamericana de Educación a Distancia, 27(1), 1-27. https://doi.org/10.5944/ried.27.1.37716
https://www.facebook.com/kdnuggets. «Top 10 Tools for Detecting ChatGPT, GPT-4, Bard, and Claude». KDnuggets (blog). Accedido 30 de mayo de 2023. https://www.kdnuggets.com/top-10-tools-for-detecting-chatgpt-gpt-4-bard-and-claude.html.
DERECHO DE AUTOR Y PROPIEDAD INTELECTUAL EN INTELIGENCIA ARTIFICIAL GENERATIVA (iag)
Nuestro propósito como Sistema de Bibliotecas UNAB es orientar a estudiantes y docentes acerca de los aspectos clave que involucran a la propiedad intelectual con la inteligencia artificial generativa (IAG). Con la llegada de modelos de lenguajes grandes (LLM), el mundo se ha visto en la necesidad de crear políticas y desarrollar normativas que garanticen el buen uso de múltiples herramientas artificiales, protegiendo así el derecho de autor y otros derechos asociados. Actualmente no existe una legislación específicamente diseñada para regular el uso de la IAG. Los sistemas de IAG se están regulando por otras normativas existentes. Entre ellas, las leyes de protección de datos, de protección de los consumidores y de competencia en el mercado. Los gobiernos nacionales han comenzado a adoptar estrategias y a trabajar en nuevas leyes desde hace varios años, pero aún no se ha aprobado ninguna legislación.
PREGUNTAS Y RESPUESTAS
¿Qué aspectos sobre protección de propiedad intelectual deben tenerse en cuenta, al utilizar inteligencia Artificial Generativa (IAG)?
R/ Dentro de los aspectos principales a tener en cuenta se encuentran:
. Trazar políticas claras sobre la propiedad, privacidad y disponibilidad de los datos, siguiendo las normas internacionales elaboradas por expertos y respetando los patrones éticos reconocidos internacionalmente.
. Prevenir el uso de datos confidenciales en las instrucciones dadas, y limitar el acceso a la IAG entrenada a partir de secretos comerciales, al personal autorizado para acceder a este tipo de información.
. Concientizar y mitigar los riesgos que estas herramientas de inteligencia generativa pueden llegar a causar cuando tienen un mal uso, o se utilizan con fines fraudulentos.
. Verificar los conjuntos de datos entrenado con IA, considerando la titularidad de la propiedad intelectual y la cobertura de las licencias (OMPI, 2024; Miau et al., 2021).
¿Por qué es necesario regularizar el uso de la IAG?
R/ Porque es esencial para proteger y respetar los derechos fundamentales de las personas; garantizar la transparencia y rendición de cuentas; avalar la seguridad de los algoritmos de IAG y que éstos estén exentos de sesgos o errores perjudiciales; y porque es vital establecer estándares éticos indispensables para su desarrollo sostenible y buen uso en la sociedad (Aicad Business School, 2024).
¿Qué implicancias podrían tener la IAG para el derecho de autor?
Según Guadamuz (2017), pudiera tener implicancias ya que normalmente la titularidad del derecho de autor sobre las obras generadas por computadora se atribuye como una herramienta de apoyo al proceso creativo, enfatizando que las obras creativas gozan de la protección del derecho de autor si son originales, entendiéndose por ello que requieren de un autor humano y hoy los programas de computación con IA son decidores asociados al proceso creativo sin estar presente la mano del hombre.
El mismo autor Guadamuz, quien es profesor titular de Derecho de Propiedad Intelectual, Universidad de Sussex (Reino Unido) refiere que la IA, también podría tener implicaciones comerciales de gran alcance al ya estar utilizándose en la creación de obras en diferentes ámbitos como son el periodístico, musical y los juegos, intuyendo que dichas obras podrían considerarse libres de derechos de autor si no fueron intervenidas por el ser humano.
¿Qué principios se están considerando en la utilización de la IAG?
Los principios que se están considerando en relación con la Inteligencia Artificial son: Bienestar humano, Responsabilidad, Equidad, Inclusividad, y Transparencia, entre otros.
¿Qué se entiende por transparencia en el uso de la IAG?
Este principio de transparencia trata sobre la divulgación responsable de los sistemas de IAG para garantizar que las personas entiendan cuándo están interactuando con ellos y puedan cuestionar los resultados, considerando los posibles sesgos que puedan obtenerse de las respuestas generadas por estas herramientas.
¿Quiénes deben ser responsables en el uso de la IAG?
Deben ser responsables las organizaciones y las personas que desarrollan, implementan u operan sistemas de IAG, así como de su correcto funcionamiento. También se debe promover una cultura de responsabilidad en las soluciones impulsadas por IAG.
¿Qué significa el principio de equidad y no discriminación en el uso de la Inteligencia Artificial?
Significa que se deben tener en cuenta cuestiones de equidad y no discriminación con respecto a los resultados y decisiones producidos por la aplicación de IA, así como considerar si la aplicación de IA puede reducir los niveles de discriminación ilegal, injusta o no intencionada. También la IA deben respetar el estado de derecho, los derechos humanos, los valores democráticos y la diversidad.
¿Cómo se está trabajando en Chile el tema del uso y desarrollo de la IA?
Chile cuenta con una Política Nacional de Inteligencia Artificial creada por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (Minciencia), que “contiene los lineamientos estratégicos que debe seguir el país en esta materia durante los próximos 10 años con el objetivo de empoderar a las personas en el uso y desarrollo de herramientas de IA, y participar en el debate sobre sus consecuencias legales, éticas, sociales y económicas”. Además, el pasado 24 de abril de 2023 se presentó ante la Cámara de Diputado/as de la República un Proyecto de Ley (con última fecha de tramitación noviembre 2024) cuyo objetivo es “establecer un marco jurídico en lo que respecta al desarrollo, comercialización, distribución y utilización de los sistemas de IA asegurando la protección de los derechos fundamentales garantizados por el Estado de Chile”.
GLOSARIO
| TÉRMINO | CONCEPTO |
|---|---|
| Inteligencia Artificial (IA) | Es la capacidad de una máquina para imitar funciones cognitivas humanas como aprender y resolver problemas de manera inteligente https://www.ackstorm.com/blog/diccionario-ia-generativa/ |
| Inteligencia Artificial Generativa (IAG) | Es un campo de la Inteligencia Artificial que abarca los sistemas y algoritmos aptos para generar nuevo contenido, original y creativo (texto, imágenes, música y otros tipos de datos) entrenados a partir de enormes conjuntos de datos. |
| https://decidesoluciones.es/diccionario-de-la-ia-generativa-terminos-clave-que-debes-conocer/ | |
| Algoritmo | Conjunto de reglas o procesos utilizados por un sistema de IA para realizar tareas, descubrir nuevos conocimientos y patrones de datos, o para predecir valores de salida a partir de un conjunto determinado de variables de entrada. |
| https://www.ibm.com/es-es/topics/machine-learning-algorithms | |
| Machine Learning | Es una rama de la computación que procura que los ordenadores desarrollen tareas específicas sin haberse programado explícitamente para tal efecto. Estos modelos tienen la capacidad de aumentar su precisión en la medida que se les van proporcionando más datos. |
| https://decidesoluciones.es/diccionario-de-la-ia-generativa-terminos-clave-que-debes-conocer/ | |
| Modelos de Lenguajes Grandes (LLM) | Constituyen algoritmos capaces de comprender, procesar y producir textos que al ser entrenados con enormes cantidades de datos se convierten en modelos de lenguajes grandes (LLM). Estos LLM tienen un poder asombroso para comprender y crear contenidos nuevos de forma coherente. |
| https://www.ackstorm.com/blog/diccionario-ia-generativa/ | |
| Redes Neuronales | Consiste en un tipo de modelo computacional que instruye a las máquinas para el procesamiento de datos simulando el cerebro humano. Se basan en un conjunto de unidades, nombradas neuronas artificiales que se conectan entre sí para transmitirse señales. |
| https://decidesoluciones.es/diccionario-de-la-ia-generativa-terminos-clave-que-debes-conocer/ | |
| Deep Learning | Una rama avanzada del aprendizaje automático que utiliza muchas capas de redes neuronales para tareas como reconocimiento de patrones y procesamiento de lenguaje natural. |
| https://revistaclevel.com/glosario-para-dominar-el-lenguaje-de-la-inteligencia-artificial-generativa | |
| Prompts | Son las instrucciones o preguntas realizadas a un modelo de lenguaje para recibir una respuesta. Mientras más clara y precisa sea la interacción con el prompts, mayor será la calidad de la respuesta obtenida. |
| https://www.ackstorm.com/blog/diccionario-ia-generativa/ | |
| Chatbots | Son programas informáticos diseñados para simular conversaciones frecuentes con personas a través de Internet. Existen chatbots avanzados en IAG capaces de generar diálogos y respuestas realistas. |
| https://revistaclevel.com/glosario-para-dominar-el-lenguaje-de-la-inteligencia-artificial-generativa | |
| Transformer | Es una arquitectura de red neuronal, que ha sido la base para los modelos de aprendizaje profundo utilizados en modelos modernos de IAG. Se especializan en procesar información secuencial, como lenguaje natural empleando el mecanismo de autoatención, asignándole un valor diferente a cada parte del input. |
| https://decidesoluciones.es/diccionario-de-la-ia-generativa-terminos-clave-que-debes-conocer/ | |
| Sesgo | Errores sistémicos repetibles en un algoritmo que producen prejuicios o inclinaciones, resultando en discriminación, siendo para ciertos grupos más favorable que para otros. |
| https://www.grupoeducar.cl/material_de_apoyo/glosario-de-inteligencia-artificial-ia-para-la-educacion/ | |
| Alucinación | Cuando un chatbot o herramienta de IA generativa percibe patrones u objetos que son inexistentes o imperceptibles para los observadores humanos, creando outputs que no tienen sentido o son completamente erróneos. |
| https://www.ibm.com/es-es/topics/ai-hallucinations | |
| Input | consiste en el conjunto de información a la que la IA accede y procesa de acuerdo con la instrucción (el prompt) que ha recibido y por el que genera el output. |
| https://www.govertis.com/ia-generativa-explorando-la-propiedad-intelectual-de-los-prompts | |
| Output | Son los contenidos, previsiones, recomendaciones o decisiones que genera la IA generativa para un conjunto determinado de objetivos definidos por el ser humano y que se produce como consecuencia de la interacción entre un prompt y el input. |
| https://www.govertis.com/ia-generativa-explorando-la-propiedad-intelectual-de-los-prompts |
REFERENCIAS PARA AMPLIAR SOBRE EL TEMA:
La Unión Europea (UE) aprobó un Acta de Inteligencia Artificial ( 23 de junio de 2023), la cual regula la confianza y la seguridad en el desarrollo y uso de la IA, con el fin de lograr equilibrar la promoción de la innovación, el desarrollo de la inteligencia artificial (IA), la protección de los derechos fundamentales, la seguridad y la transparencia.
Cámara de Diputados y Diputadas de la República de Chile. (2023). Proyecto de Ley que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas, en sus distintos ámbitos de aplicación. N° de Boletín 15869-19.
https://www.camara.cl/legislacion/comisiones/proyecto_ley.aspx?prmID=3303
Galaski, J. (2021, septiembre 8). Regulación de la IA: Situación actual y posibilidades futuras. Liberties.
https://www.liberties.eu/es/stories/regulacion-ia/43740
Gamboa Cruzado, J. Nolasco Valenzuela, J. S., & Nolasco Valenzuela, L. E. (2024). ChatGPT: obtén el máximo rendimiento a la Inteligencia Artificial Generativa: (1 ed.). RA-MA Editorial. https://elibro-net.recursosbiblioteca.unab.cl/es/ereader/unabcl/267656?page=1
Guadamuz, A. (2017). La inteligencia artificial y el derecho de autor. Revista de la OMPI. (5).
https://www.wipo.int/wipo_magazine/es/2017/05/article_0003.html
Ministerio de Ciencia Tecnología Conocimiento e Innovación de Chile. (s.f.). Política nacional de inteligencia artificial.
China desarrolló en 2017 una estrategia para convertirse en líder mundial en IA en 2030.
Roberts, H., Cowls, J., Morley, J. et al. The Chinese approach to artificial intelligence: an analysis of policy, ethics, and regulation. AI & Soc 36, 59–77 (2021). https://doi.org/10.1007/s00146-020-00992-2
En Estados Unidos, la Casa Blanca publicó diez principios para la regulación de la IA. Entre ellos figuran la promoción de «aplicaciones de IA seguras, sólidas y fiables», la participación pública y la integridad científica.
AI Update: White House Issues 10 Principles for Artificial Intelligence Regulation. Inside Tech Media. (January 14, 2020). https://www.insidetechmedia.com/2020/01/14/ai-update-white-house-issues-10-principles-for-artificial-intelligence-regulation/
OCDE (Organización para la Cooperación y el Desarrollo Económicos) — Foro Económico Mundial
Los organismos internacionales que asesoran a gobiernos, como la OCDE o el Foro Económico Mundial han elaborado directrices éticas.
OCDE: https://oecd.ai/en/ai-principles
Foro Económico Mundial: https://www3.weforum.org/docs/WEF_Guidelines_for_AI_Procurement.pdf
Miau, F., Holmes, W., Ronghuai, H., & Hui, Z. (2021). Inteligencia artificial y educación: guía para las personas a cargo de formular políticas. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000379376
Organización Mundial de la Propiedad Intelectual. (2024). IA generativa: Cómo abordar la propiedad intelectual. OMPI. https://doi.org/10.34667/tind.49471
El Consejo de Europa creó un Comité para desarrollar un marco jurídico para la IA (Galaski, 2021).