Post Tagged with: "Inteligencia Artificial"

Los desafíos en torno al uso de chatbots e inteligencia artificial en educación

by 2 octubre, 2023 in Trend, Ciencia e innovación Comments are Disabled

El pasado mes de abril en Estados Unidos se conoció el caso de numerosos estudiantes universitarios que fueron falsamente acusados de entregar trabajos generados mediante inteligencia artificial. La situación causó gran alarma, ya que involucraba el uso de herramientas como Turnitin y GPTZero, softwares utilizados por miles de instituciones alrededor del mundo para detectar plagio y textos generados mediante chatbots de inteligencia artificial como ChatGPT. Esto motivó un estudio por parte de investigadores de la Universidad de Stanford, quienes comprobaron los ‘falsos positivos’ que estos sistemas estaban entregando, sobre todo entre estudiantes cuyo inglés no era nativo.

La investigación, titulada “Los detectores GPT están sesgados contra los escritores no nativos” o “GPT detectors are biased against non-native English writers” en inglés, sentó un precedente científico sobre la existencia de este tipo de problemas asociados al uso de modelos de lenguaje generativo basados ​​en GPT: Generative Pre-Trained Transformer. El trabajo, de esta forma, abrió numerosas interrogantes sobre el nivel de confianza que entregan estas tecnologías y aquellos sistemas y métodos para detectar contenido generado mediante inteligencia artificial. Este tipo de errores también están ocurriendo en otras partes del mundo, incluido Chile, lo que ha motivado un incipiente debate sobre cómo enfrentarlo por parte de las instituciones educacionales.

Lionel Brossi, investigador del Núcleo de Inteligencia Artificial y Sociedad (IA+SIC) y académico de la Facultad de la Comunicación e Imagen de la U. de Chile, afirma que este tema en particular ya ha sido discutido en diversas conferencias a nivel global, y asegura que “hoy en día ninguna herramienta puede detectar si algo fue hecho 100% con un chatbot de inteligencia artificial generativa como ChatGPT u otros, aunque -por ejemplo- ChatGPT tiene un algoritmo que se llama ChatGPT classifier, que busca distinguir entre textos escritos por humanos y textos redactados mediante inteligencia artificial”.

Uno de los grandes inconvenientes, expone el profesor Brossi, es que resulta una muy buena herramienta para ayudar en la redacción de ideas y, en este sentido, “los contenidos pueden estar hechos de manera muy auténtica por un estudiante, por un investigador, en fin, por un humano. Pero si el usuario pide ayuda a ChatGPT para mejorar la redacción, eso puede tener como consecuencia que el texto sea reconocido como escrito totalmente por inteligencia artificial, pese a que simplemente se utilizó como herramienta de ayuda a la escritura”.

Pero los chatbots de inteligencia artificial también pueden experimentar alucinaciones, fenómeno que -en términos simples- ocurre cuando entregan respuestas que pueden ser muy convincentes, pero totalmente inventadas. Roberto Araya, profesor del Instituto de Estudios Avanzados en Educación de la Universidad de Chile, sostiene que “hay contenidos de los que puede no tener información y a veces salen respuestas que no tienen nada que ver con la realidad. El problema es que tiene una personalidad muy asertiva. Por esta razón, es necesario entender la psicología detrás de estos modelos, que es tratar de responder como sea a lo que les preguntan. Así, buscan antecedentes, mezclan cosas y a veces no andan bien. Estas alucinaciones se dan mucho cuando un tema es demasiado específico”.

El académico enfatiza que muchos de estos modelos de lenguaje colosal o Large Language Model LLM aún están en etapa de desarrollo y no siempre funcionan como uno espera. “Algunos de los errores o sesgos se pueden explicar por las bases de datos con las que estos programas aprenden. El problema de aquellos que trabajan con información de Internet general es que parte de ella puede ser falsa o contener sesgos raciales, étnicos, de género, etc. Estos modelos pueden tragar todos esos contenidos y considerarlos para entregar respuestas”, explica. Sin embargo, también destaca que “hay programas que se basan en datos más especializados y sometidos a procesos de revisión, y que entregan información más fidedigna, por ejemplo, en el área médica o en física cuántica”.

Por esta razón, el profesor Araya plantea que “es importante poder testearlos, porque las respuestas no siempre son perfectas y es necesario tener precaución en su uso. Yo a mis estudiantes les exijo que lo usen para mejorar el trabajo con estas herramientas, comprender cuándo pueden cometer errores y generar alucinaciones. De todas maneras, estos sistemas van a ir mejorando cada vez más, pero uno puede ir entendiendo dónde y cuándo pueden fallar”. Este y otros problemas asociados a los múltiples desafíos que persisten en torno a la inteligencia artificial fueron abordados recientemente por el académico en un artículo publicado en la revista The Mathematician Educator.

Si bien estos sistemas aún están en una etapa incipiente de desarrollo y todavía presentan algunas debilidades sobre las que es necesario ser cuidadosos, la visión de los especialistas es que las personas, las instituciones de educación y la sociedad en general no pueden mirar para el lado frente a la irrupción de la inteligencia artificial en nuestras vidas. Así lo enfatizó Eduardo Torres, académico del Departamento de Administración de la Facultad de Economía y Negocios de la U. de Chile, quien actualmente trabaja en un manual sobre la implementación de esta verdadera revolución tecnológica en la educación.

“Debemos tomar conciencia sobre la historia de cómo las tecnologías se han ido incorporando a la educación. Ya hemos pasado por esto anteriormente, por ejemplo, cuando se incorporó la calculadora o cuando navegadores como Google se convirtieron en buscadores muy potentes, herramientas que finalmente fueron adoptadas”, plantea el académico y especialista en marketing. Actualmente, afirma, “nos encontramos en una nueva era de la educación, en la cual los alumnos a través de la inteligencia artificial ya no solo pueden encontrar información, sino también conocimiento”. Por esta razón, enfatiza la necesidad de abordar el problema de cómo incorporar estas herramientas en el aula, particularmente en la docencia, “para entregar un conocimiento más profundo, que no pueda ser entregado con la misma riqueza por parte de la inteligencia artificial”.

¿Qué aspectos resultan claves en la incorporación de la inteligencia artificial en los procesos de enseñanza y aprendizaje? El profesor Torres enfatizó sobre la creciente importancia de la investigación en este ámbito, una de las principales fortalezas de la Universidad de Chile a nivel latinoamericano. “En la práctica, la investigación científica se está convirtiendo en algo más relevante de lo que podía ser en algún momento. Hoy en día la única manera de ganarle a la inteligencia artificial es generar o entregar a los estudiantes un conocimiento más profundo y en la vanguardia de la investigación”. Este modelo, sostiene el académico, emerge como una alternativa que permitiría integrar el uso de la inteligencia artificial y enriquecer aún más los procesos formativos sobre la base del elemento diferenciador que posee la U. de Chile como institución líder en investigación del país.

Los profesores Torres, Brossi y Araya enfatizan que hoy la docencia sigue siendo imprescindible en la formación estudiantil, pero que es necesario debatir sobre la incorporación de la inteligencia artificial en la educación. “Si no lo hacemos ahora y no empezamos a conversar sobre esto, va a llegar un momento en que terminaremos cediendo sin estar preparados. Hay que considerar que más adelante en este proceso todo tipo de conocimiento que pueda ser generado por un ser humano, también será generado por una herramienta de inteligencia artificial”, advirtió Eduardo Torres.

“Creo que las instituciones deben desarrollar una política de buenas prácticas, más que normar. Con recomendaciones sobre el uso de estas herramientas, en términos de oportunidades y desafíos, y generar instancias de capacitación para docentes y estudiantes. Hay universidades que ya tienen recomendaciones, buenas prácticas y protocolos. Desde ya, en determinadas ocasiones, como evaluaciones en tiempo real o de conocimientos específicos, es lógico que se pueda excluir el uso de chatbots generativos, pero por ello es que debe tenerse en cuenta cada situación y casos específicos”, sostuvo por su parte Lionel Brossi.

“Mi recomendación es que los estudiantes puedan utilizar estas herramientas y los profesores ajustarse a ellas porque en el mundo real la gente ya las está usando para su trabajo. Si las veo como un recurso productivo, entonces; desde mi punto de vista, no solamente es absurdo, sino hasta contraproducente que no se utilicen para la formación educativa, sobre todo en un contexto global cada vez más competitivo. Lo mejor es aprender a usarlas, entender sus limitaciones y ver hasta dónde puedo confiar en ellas. Es la adaptación natural a todo cambio tecnológico. Debemos aprovecharlas como oportunidades para que el país sea mucho más productivo”, concluyó Roberto Araya.

Software para diagnóstico de celdas solares incorporará electroluminiscencia, drones e inteligencia artificial

by 29 junio, 2023 in Ciencia e innovación Comments are Disabled

Según cifras de la Comisión Nacional de Energía, el sistema eléctrico en Chile cuenta con 7 280 MW de capacidad instalada de generación solar PV, lo que se traduce en más de 20 millones de paneles solares. Por lo tanto, el mantenimiento de estos paneles resulta crucial dentro del mercado eléctrico nacional.

Es por ello que un grupo de investigadores del Centro de Tecnologías para Energía Solar de Fraunhofer Chile – integrado por Francisco Moraga, Alvaro Henríquez, Carlos Felbol y Francisco Fuentes idearon un proyecto que busca innovar en las tecnologías de monitoreo y diagnóstico de fallas en celdas solares, aplicando el uso de un vehículo aéreo no tripulado, electroluminiscencia y Deep Learning, un tipo de aprendizaje automático (ver recuadro).

“Los métodos tradicionales de monitoreo de fallas de plantas fotovoltaicas (PV) dependen, generalmente, de procesos manuales, lo que implica un proceso lento y afectado por el juicio subjetivo de un experto. Hasta ahora, la innovación se ha centrado en la inspección con drones y termografía. Sin embargo, no todas las fallas de los módulos PV provocan un aumento de temperatura, por lo que las mediciones no siempre son capaces de identificar y clasificar con certeza el estado de los paneles” explica el ingeniero y coordinador del Proyecto, Francisco Moraga.

Según el investigador, este proceso genera miles de imágenes que deben ser revisadas por un experto, por lo que se puede tardar varias semanas en elaborar un reporte. “Alternativamente, la electroluminiscencia (EL) es una técnica de medición que se realiza a los paneles solares, introduciendo un flujo eléctrico a través de las celdas solares, que permite detectar defectos estructurales en las celdas PV (cracks). Es por eso que este proyecto busca dar solución a este problema mediante la sinergia Dron + EL + Deep Learning” indica Moraga.

De este modo, el objetivo del proyecto es desarrollar un software para diagnóstico solar avanzado de imágenes de EL y generación de reportes automáticos sobre el “estado de salud” de celdas PV, tecnología que vendrá a complementar la batería de servicios y apoyos que Fraunhofer Chile provee a la industria.  “A través de una serie de actividades de I+D en el campo de la inteligencia artificial (IA), se espera contribuir al avance del conocimiento en la digitalización e IA para la gestión eficiente de los activos energéticos renovables. En particular, se espera crear nuevas y mejoradas arquitecturas de redes neuronales capaces de resolver el problema del post-procesamiento de datos masivos generados por las inspecciones de drones en parques solares” destaca Moraga.

Frank Dinter, director ejecutivo de Fraunhofer Chile – Centro de Excelencia Internacional de ANID y parte de la prestigiosa Red de Institutos Fraunhofer (Alemania)-, esta innovación es parte del portafolio de proyectos que el Centro está llevando adelante para contribuir a la optimización y automatización de los sistemas fotovoltaicos, aportando con conocimientos y tecnología alemana de última generación a la sustentabilidad de la matriz energética nacional.

Investigación utiliza inteligencia artificial para estimar el riesgo de desarrollar Alzheimer

by 14 junio, 2023 in Ciencia e innovación Comments are Disabled

Un estudio de la Universidad de Chile busca estimar tempranamente el riesgo de desarrollar Alzheimer mediante el uso de inteligencia artificial. El trabajo fue presentado por el profesor Pablo Estévez, del Departamento de Ingeniería Eléctrica de la Facultad de Ciencias Físicas y Matemáticas (FCFM), en representación de su estudiante de doctorado en Ingeniería Eléctrica, Jhon Intriago, en la IEEE Conference on Artificial Intelligence (IEEE CAI 2023), realizada en Santa Clara California, Estados Unidos, donde obtuvo el premio al mejor poster de la conferencia.

La investigación “intenta detectar tempranamente el riesgo de desarrollar esta enfermedad mediante técnicas de uso de inteligencia artificial aplicadas a imágenes de resonancia magnética del cerebro. Para ello, se distingue primero entre sujetos con la enfermedad de Alzheimer y de control. Luego, se aplica este clasificador a sujetos con Queja Cognitiva Subjetiva (sujetos con problemas frecuentes de memoria) y se estima el riesgo de desarrollar Alzheimer en este grupo”, explica el académico.

El trabajo se realizó en colaboración con el Instituto Milenio en Ingeniería e Inteligencia Artificial para la Salud (iHealth), el Centro de Gerociencia, Salud Mental y Metabolismo (GERO), y el Departamento de Neurorradiología del Instituto de Neurocirugía Alfonso Asenjo (INCA). “Hemos trabajado un poco más de un año en esta investigación, que es muy reciente, y ya se ha obtenido un importante reconocimiento internacional. Esto indica, por un lado, que el tópico es muy relevante hoy y, por otro, que el resultado es muy novedoso. Esto abre las puertas para continuar con esta investigación y nuestra colaboración con el equipo médico”, agrega el profesor Estévez.

La detección temprana del riesgo de desarrollar esta enfermedad neurodegenerativa es crucial para brindar un tratamiento oportuno y mejorar la calidad de vida de los pacientes. En este sentido, la posibilidad de identificar biomarcadores que indiquen el riesgo de desarrollar Alzheimer mediante la inteligencia artificial podría revolucionar el diagnóstico médico y permitir intervenciones preventivas más efectivas. Por lo mismo, el reconocimiento del trabajo de Jhon Intriago, como autor principal, y el profesor Pablo Estévez con el premio al mejor poster de la conferencia destaca la importancia y el impacto potencial de su investigación.

Expertos son convocados por el Ministerio de Ciencias para abordar desafíos en Inteligencia Artificial

by 25 mayo, 2023 in Ciencia e innovación Comments are Disabled

Los académicos y expertos en Inteligencia Artificial de la Universidad de Chile que formaron parte del comité que creó la Política Nacional de Inteligencia Artificial (IA) en 2021 fueron nuevamente convocados por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación de Chile, esta vez encabezados por la ministra Aisén Etcheverry, para avanzar en la discusión sobre los avances y desafíos asociados al desarrollo de la Inteligencia Artificial.

Los académicos del Departamento de Ingeniería Industrial de la Universidad de Chile, Rafael Bergoeing y Juan Domingo Velásquez; el académico de Ingeniería Eléctrica, Néstor Becerra; y el académico del Programa Tecnología y Sociedad de la Facultad de Derecho, Alberto Cerda, son los representantes de la Casa de Bello en esta instancia. El espacio lo integran, además, Andrea Rodríguez, vicerrectora de Investigación y Desarrollo de la Universidad de Concepción; Martín Tironi, director del Instituto Milenio Futures of Artificial Intelligence; María Paz Hermosilla, directora del GobLab de la Escuela de Gobierno de la Universidad Adolfo Ibáñez; Cuki Pérez, data scientist; y Kathya Araujo, investigadora del Núcleo Interuniversitario Multidisciplinar de Investigación en Individuos, Lazo Social y Asimetrías de Poder (NIUMAP).

El profesor Juan Domingo Velásquez explica que esta reunión se realizó para “volver a echar a andar justamente este trabajo con miras a comenzar ciertas implementaciones de lo que se dijo en su momento de la Política Nacional”. Por otra parte, el director del Laboratorio de Procesamiento y Transmisión de Voz de la U. de Chile, Néstor Becerra, añade que “el resultado final (redactado en 2021) fue una política de Estado sin color político. Sin embargo, el Ministerio de Ciencia y Tecnología tiene interés en profundizar respecto al impacto en la sociedad que pueden tener o están teniendo las tecnologías de IA”.

Por su parte, Rafael Bergoeing, que también es presidente de la Comisión Nacional de Productividad, detalla que “los ejes principales de esta política son factores habilitantes, relacionados con el desarrollo de talentos, los datos y la infraestructura tecnológica; su adopción y los aspectos éticos, regulatorios y socioeconómicos, entre los que destacan sus implicancias en el mercado laboral, los peligros en materia de ciberseguridad y el resguardo de la propiedad intelectual”.

Velásquez agrega que esta nueva reunión fue “para recibir varias impresiones. Estuvimos discutiendo varias aristas, porque hoy en día hay una suerte de temor, un poco desatado, respecto de la implicancia que puede tener la Inteligencia Artificial” y porque “cuando se planteó la Política Nacional, se plantearon los desafíos, pero no se planteó esto del bueno, el malo y el feo”. Esta analogía, explica el académico, hace referencia a que en el caso de la IA no se puede permitir que “ocurra el feo”, dando como ejemplo que “si queremos analizar tu ADN porque queremos ver si tienes alguna afección para ayudarte, hasta ahí estamos súper bien, pero qué pasa si con tu ADN me doy cuenta que tú vas a tener a los cuarenta y tantos años diabetes y digo ‘no me conviene contratarte’, entonces, ahí estoy siendo súper feo, estoy usando los datos de manera fea y eso no tiene que ocurrir”.

“En esta triada siempre aparece el malo. Bueno, al malo hay que regularlo, entonces qué significa regular al malo, muchas veces ese malo es necesario para que ciertas cosas puedan ocurrir. Por ejemplo, si yo dijera ‘mira, empezar a soltar datos de carácter personal tiene implicancias malas porque me van a tapar de spam’, bueno, entonces regulemos, ahora no puedes llamar después de las 8 de la noche”, dice el profesor Velásquez.

Finalmente, indica el académico, “está el bueno. A ese bueno no le puedes cortar las alas, hay que potenciarlo. Qué tal si estamos creando un predictor de cáncer mamario, si potenciamos esa investigación, la solidaridad que puedan tener las mujeres aumenta, pero estrambóticamente, porque ese es un cáncer súper jodido ya, pero con una detección temprana es una extirpación de nódulos, entonces, ahí aparece el bueno”. Por eso, sostiene, hay que “regular al malo” y no “detener al bueno”, o sea, no detener los avances tecnológicos, porque “la historia humana nos ha mostrado que cuando uno restringe al bueno, la verdad de las cosas es que se detiene el avance científico y tecnológico”.

En esta misma línea, el profesor Néstor Becerra destaca que “en un artículo del New York Times, Sam Altman, uno de los fundadores de OpenAI, comparó el impacto de su emprendimiento con aquel del proyecto Manhattan. Este proyecto derivó en la primera bomba atómica, pero no por eso se tendría que haber prohibido la investigación en física nuclear. Casi 80 años después se puede vislumbrar un horizonte para la fusión nuclear como fuente energía prácticamente inagotable y limpia”.

“Chile y América Latina no se pueden abstraer de participar del desarrollo de la I.A., principalmente porque hay condiciones para formar talentos en números competitivos. Pero esto no excluye la necesidad de discutir regulaciones para ciertas aplicaciones de IA que puedan causar perturbaciones negativas para la sociedad o que requieran de mucho esfuerzo para ser contrarrestadas”, señala Becerra.

El académico Rafael Bergoeing asegura que “lo principal es estar atento a cómo evoluciona esta tecnología y a los desafíos de política pública asociados. La aproximación exige una mirada interdisciplinaria, por lo que una mesa de expertos con distintas experiencias profesionales debiera permitir diagnosticar en tiempo real la necesidad de nuevas y mejores regulaciones y el diseño de políticas que resguarden el interés común y aporten al desarrollo del país”.

El profesor Becerra añade que “en el proceso anterior que dio origen a la Política Nacional de Inteligencia Artificial de Chile, el comité de expertos tuvo un rol bien amplio, desde plantear los temas importantes a cómo estructurar la discusión en el ámbito nacional, pasando por proponer o sugerir propuestas sobre temas específicos”. Ahora, indica, “el Ministerio de Ciencia y Tecnología actual tiene interés en profundizar respecto al impacto en la sociedad que pueden tener o están teniendo las tecnologías de I.A. Sin embargo, desconozco cómo se organizarán los equipos de trabajo”.

Respecto a los desafíos en torno a esta materia, Velásquez plantea que la principal pregunta es dónde queremos estar en 10 años más. En esta línea, afirma que el tema de la Inteligencia Artificial es gravitante y que “no podemos hacer la medicina del futuro sin Inteligencia Artificial, no podemos. Pero hay que pensarla como algo positivo, no con este pánico que anda rondando a la sociedad”.

Sistema basado en Inteligencia Artificial será aplicado por Fiscalía de Chile para detectar estructuras criminales

by 27 marzo, 2023 in Nacional Comments are Disabled

La innovación es resultado del proyecto Fondef  “Sistema de analítica integrada de información para la persecución de delitos contra la propiedad: inteligencia artificial para detectar estructuras criminales”, una línea de investigación liderada por el académico del Departamento de Ingeniería Industrial de la U. de Chile e investigador del Instituto Sistemas Complejos de Ingeniería (ISCI), Richard Weber, en conjunto con la Unidad Coordinadora de Análisis Criminal y Focos Investigativos de la Fiscalía Nacional.

Este algoritmo, capaz de construir una red de vínculos entre personas con historial delictivo e identificar a potenciales miembros de una agrupación asociada a un hecho criminal específico, comenzará a ser usado por la Fiscalía de Chile para casos de delitos contra la propiedad en las fiscalías regionales del Maule, Coquimbo y Metropolitana Centro Norte y pronto se probará adaptado a casos de homicidios y drogas.

“Con este sistema cada fiscal y su equipo ya no tendrán que analizar muchas carpetas para dar con potenciales vínculos, ya que la máquina hará un filtro y le propondrá un número acotado. La ventaja es reducir el volumen y la complejidad de la búsqueda, al hacerla más inteligente”, destaca el profesor Weber, quien agrega que el algoritmo también aportará a validar hipótesis investigativas.

El algoritmo se nutre de información de diferentes bases de datos, como la del Sistema de Apoyo a los Fiscales (SAF). Para el análisis, integra modus operandis (lugares, horas, perfiles de víctimas, etc.), conocimiento de ciertas técnicas necesarias para llevar a cabo el delito (oxicorte, por ejemplo) y reincidencias, entre otros elementos.

“El objetivo es ayudar a los y las fiscales a determinar rápidamente, en cosa de segundos, qué personas podrían haber actuado en un hecho delictual atribuible a una banda. Eso, tanto si contamos con un sospechoso como si no contamos con él, por lo que esperamos que sea de gran ayuda para bajar las tasas de delitos con imputados desconocidos”, explicó el Fiscal Nacional, Ángel Valencia, durante la presentación oficial del sistema. Así, agregó, “ante delitos recién ocurridos, podremos pedirle al sistema que nos proponga los nombres de un número inicial de sujetos. Luego, podremos ir aumentando ese número en el transcurso de la investigación”.

El equipo de investigación liderado por el profesor Weber e integrado por Carla Vairetti, de la Universidad de Los Andes, y Fredy Troncoso, de la Universidad del Biobío, ya ha realizado varias pruebas en casos de robos, con altas tasas de efectividad. A modo de ejemplo, en uno de ellos se trabajó un hecho reciente en el que, se sabía, estaban involucradas 12 personas. Al sistema se le entregaron solo dos de esas identidades, siendo capaz de rastrear y proponer la identidad de siete individuos nuevos que estaban dentro de los que fueron condenados.

Cabe destacar que en este proyecto ANID participa la Universidad de Chile, la Universidad del Bío Bío, la Universidad de los Andes (CL), el Ministerio Público, SOSAFE y la Agencia Nacional de Investigación y Desarrollo (ANID). La iniciativa, coordinada por el Centro de Sistemas Públicos (CSP) de la U. de Chile, ahora avanzará en modelos matemáticos específicos para homicidios y drogas.

El mecanismo consiste en identificar a una persona como un nodo inicial, de quien se desprenden vínculos con terceros con los que haya participado en al menos un delito anterior. De esta forma, se genera un mapa de redes criminales. En el caso que no exista esa persona inicial, el sistema puede comparar hechos, jurisdicción y normas aplicadas, entre otras variables.