Qué significa realmente la Inteligencia Artificial (IA) para el aprendizaje

         La IA está alimentando una “falta de imaginación”. Aquí te explicamos cómo podemos solucionarlo.

   Por Meher Ahmad, Jessica Grose y Tressie McMillan Cottom
       Producido por Vishakha Darbha
     La inteligencia artificial ya está presente en las aulas, así que ¿cómo se están adaptando las universidades, los profesores y los estudiantes? Meher Ahmad, editor de opinión del New York Times, se reúne con la escritora Jessica Grose y la columnista Tressie McMillan Cottom para hablar sobre cómo las humanidades están trazando un nuevo rumbo y si ChatGPT es comparable a SparkNotes.
                                                                                                                                          Qué hacen realmente los bots en el aula.
     Meher Ahmad: Soy Meher Ahmad y editor de la sección de opinión del New York Times.
        Hoy me acompañan mis colegas, la escritora Jessica Grose y la columnista Tressie McMillan Cottom, para hablar sobre inteligencia artificial y educación. Hola a ambas. Jessica Grose: Muchas gracias por invitarme.
       Tressie McMillan Cottom: Hola. Siempre es un placer estar aquí. Y hola, Jessica. Me alegra verte.
       Ahmad: Ambas han reflexionado mucho sobre esto.
        Tressie, sueles asistir a clase como profesora de sociología en la Universidad de Carolina del Norte en Chapel Hill y has llamado a la IA generativa “tecnología intermedia”, tema que abordaremos más adelante. Jess, has dedicado tiempo a entrevistar a padres, estudiantes y, más recientemente, a educadores de humanidades para escribir una serie de artículos sobre IA y educación para tu boletín informativo.
      Estamos en las últimas semanas del verano; las escuelas se están preparando para la vuelta a clases. Así que nos he reunido porque se ha hablado mucho sobre cómo las habilidades de pensamiento crítico se están atrofiando con el uso constante de la IA, como ChatGPT o Gemini. Quiero hablar con ambas sobre cómo lidiamos con el papel de la IA en la educación superior. Antes de profundizar en nuestra conversación de hoy, quería que ambos nos contaran qué opinan sobre el uso de la IA por parte de los estudiantes en la educación superior. En una escala del 1 al 10, donde 1 es “quemarlo todo” y 10 es “extremadamente beneficioso”, ¿cómo califican el uso de la IA en el aula?
     McMillan Cottom: Debo comenzar diciendo que no pretendo ser un ejemplo universal en este aspecto. Dicho esto, le daré un dos sobre diez como calificación.
     Grose: Estaba pensando en dos, para ser generoso.
      McMillan Cottom: Sí, yo también, Jess.
      Grose: Casi todos los días quiero enviar a mis hijos a un monasterio.
      McMillan Cottom: [Ríe.] Sí, es más o menos cierto. Eso es todo.
      Grose: Puede que no escuches a un súper pro-IA. Mi punto de vista sobre esta discusión es diferente, pero intentaré presentar la otra perspectiva lo mejor posible y presentar algunos de los casos de uso más positivos que he escuchado en mis reportajes, porque los hay.
    Ahmad: Bueno, el ambiente no es bueno. En el mejor de los casos, estamos tibios. Bueno, Tressie, quería empezar contigo. Has criticado el papel de la IA en la educación. Como dije, la llamaste “tecnología intermedia”, donde se utiliza para tareas cotidianas y, en realidad, necesitamos promover la experiencia educativa. Así que me gustaría saber si podrías explicar esa idea. ¿Cómo influye en la educación superior para ti?

      McMillan Cottom: La inteligencia artificial es una iteración de una ola de tecnología educativa en los sistemas educativos. Por eso, creo que es importante pensarla en ese contexto, porque gran parte del poder cultural y político que la IA tiene actualmente, diría yo, es descomunal, considerando lo útil que es o no para los educadores y estudiantes. Hay mucho revuelo, ¿verdad? Y gran parte de ese revuelo se basa en la premisa de que tiene algo realmente novedoso. Que si no nos lanzamos a esta tecnología nueva, innovadora y de uso general que transformará la sociedad, la educación se quedará atrás.
      Por eso, creo que es fundamental tener un poco de contexto histórico. Llevo mucho tiempo escribiendo, estudiando e investigando sobre tecnología educativa en la educación superior, y la gente tendrá que confiar en mí: la IA no es tan novedosa. No tiene un potencial revolucionario. Forma parte de un largo espectro de tecnologías que prometen transformar la educación, empezando por la televisión, la máquina de escribir, las videograbadoras, las tabletas… si alguien recuerda cuándo íbamos a dar a todo el mundo una Chromebook.
      La IA forma parte de ese espectro. Gran parte de la promoción de la IA en las escuelas se reduce a: «Bueno, está sucediendo, y los estudiantes necesitan saberlo».
     Pero no hay nada que la vincule con los resultados del aprendizaje. No hay nada que evalúe el riesgo para la privacidad, los datos y el desarrollo mental, emocional y cognitivo de los estudiantes. Eso es precisamente lo que se supone que debe hacer la educación. Por eso, mi premisa sobre la IA —no solo en educación, por cierto— es que cuando digo que la IA está en un nivel intermedio, es una ilusión, si se me permite decirlo, intentando ser ingenioso.
      Pero hay una alusión a que la IA, literalmente, es un promedio del rango intermedio de respuestas a una indicación. Así es como llega a lo que te dice cuando la indicas. Además, la idea es que no creo que sea tan transformadora, especialmente para los procesos sociales en la educación y el aprendizaje, como se predice.
    Actualmente, hay muy pocos casos de uso sólidos y universalmente positivos para la IA en la educación.
     Ahmad: Y Jess, ¿cómo influye la perspectiva de Tressie sobre la IA en lo que escuchas en los numerosos artículos que has escrito sobre cómo se utiliza en las aulas por parte de profesores y alumnos?
    Grose: Totalmente de acuerdo. Creo que hay algunos matices, solo en la forma en que se utiliza para los diferentes grupos de edad. Creo que no tiene cabida en los grados de kínder a sexto o séptimo. El hecho de que se incluya en la discusión diferencial para niños de esa edad me parece absurdo, porque hay amplia evidencia de que no aprenden a leer ni a comprender correctamente, ni siquiera con pantallas. Es un proceso diferente. Realmente necesitan papel y bolígrafos, las herramientas tradicionales.
      Dejemos eso de lado por ahora. En cuanto al nivel universitario, creo que debería haber formación en diferentes áreas temáticas sobre cómo usar la tecnología, si es apropiada y si realmente va a mejorar la investigación que se está realizando.
     En humanidades, creo que hay muy pocos casos en los que su uso sea útil para la forma de pensar de los estudiantes. Pero en la investigación médica, se observa que el reconocimiento de patrones de IA está ayudando a encontrar soluciones y medicamentos novedosos para problemas que han atormentado a los investigadores durante mucho tiempo. Pero estoy totalmente de acuerdo con Tressie sobre las humanidades y en que hay muy pocos casos de uso que conduzcan a una reflexión más profunda y a una mejor investigación. Simplemente no me convence lo que he visto. He intentado usarlo. Básicamente, me dicen que te ayudará con la investigación; que te ayudará a resumir. Pero no sé qué es importante para un texto en particular hasta que lo he leído completo.
    ¿Por qué lo que la IA considera importante debería ser lo que yo considero importante para el argumento que intento construir? De nuevo, escribir y pensar es un proceso cognitivo tan específico que la IA no puede decirme qué pienso sobre algo que aún no he leído. Decirlo en voz alta suena absurdo, pero creo que deberíamos explicarlo ahora mismo, porque se está promocionando como una herramienta humana que lo cura todo y lo piensa todo. Simplemente no me convence.

     Ahmad: Hablando de humanidades: Jess, escribiste un artículo en tu boletín informativo sobre cómo los profesores de humanidades están lidiando con estudiantes que usan IA en sus clases. Y parecía que llegan a esto con la comprensión de que sus estudiantes la están usando. ¿Qué aprendiste al hablar con estos profesores?
     Grose: Fue inesperadamente inspirador escuchar cómo tantos profesores de humanidades están reestructurando sus clases para apoyarse más en actividades y exámenes presenciales que crean comunidad dentro del aula, pero también involucran a la comunidad fuera del aula.
    Un ejemplo es el de un profesor de Beloit College, una pequeña universidad privada de artes liberales en Wisconsin, que me contó sobre la enseñanza de la novela “Los desposeídos” de Ursula K. Le Guin. Y como parte de la clase, los estudiantes tuvieron que organizar debates sobre la novela en bibliotecas, escuelas públicas y centros para personas mayores. Me comentó que una parte crucial de la clase consiste en que los estudiantes practiquen y representen antes de nuestros eventos de divulgación, y que luego reflexionen sobre lo aprendido de sus experiencias, qué harían de forma diferente y cómo describirían sus nuevas habilidades a posibles empleadores.
      No prohibió por completo el uso de la IA en su clase, lo cual me pareció muy interesante. Hizo que los estudiantes debatieran entre ellos lo que consideraban apropiado y elaboraran un código de conducta que todos acordaron respetar.
Porque algo que escuché de muchos profesores es que no quieren ser policías. No quieren dedicar su tiempo a vigilar el uso de esta tecnología por parte de los adultos. Por lo tanto, es necesario un debate transparente sobre los usos apropiados e inapropiados, porque prohibirla por completo ya no funciona.
      Ahmad: Tressie, como profesora, ¿has utilizado la IA en el aula o en espacios educativos?

     McMillan Cottom: Soy un científico social crítico, lo que significa que me gano la vida criticando, y por eso la usamos con ese propósito con mayor frecuencia, al menos en mi clase.
Hemos usado la IA para comprenderla como lo que llamamos un sistema sociotécnico, explorando: ¿Cómo se va a usar? ¿Cuáles son los riesgos de usarla? ¿Cuáles son algunos de los supuestos latentes en la tecnología que pueden reforzar las desigualdades existentes o generar nuevas?
     Una de mis tareas favoritas, que de hecho he hecho durante varios años, es una misión de búsqueda y hallazgo. Al principio del semestre les digo que me gustaría que averiguaran cuáles son sus derechos sobre los datos como estudiantes universitarios.
     Quiero que documenten el proceso de cómo descubrieron cuáles son sus derechos sobre los datos y luego quiero que documenten qué tecnologías se espera que utilicen en la realización diaria de su trabajo educativo, sus tareas educativas.
    Pasamos todo el semestre intentando averiguar cómo la IA utiliza los datos que los estudiantes introducen. Cada vez que subes un trabajo para que la IA lo reescriba, cada vez que le das indicaciones con los detalles de una tarea, eso va al ordenador de alguien.
    Así que una de las tareas que hacemos durante todo el semestre es una conversación sobre las compensaciones éticas y legales entre la conveniencia y lo que renunciamos en privacidad.
     Una de las cosas que me encanta de esta tarea es que soy el profesor, así que estoy haciendo trampa, ¿verdad? La creé yo. Sé que es casi imposible que la respondan. Pero es importante que aprendan la falta de transparencia en cada capa de tecnología que se introduce en una organización, en un sistema escolar.
     Cada vez que incorporamos una nueva tecnología, se vuelve cada vez más difícil para el estudiante comprender de qué es responsable y a qué derechos está renunciando.
    Diría que, de todas las innovaciones en tecnología educativa que hemos presentado en los últimos 10 o 15 años de docencia en educación superior, en mi experiencia, la IA… Es el más opaco y, por lo tanto, para mí, uno de los más preocupantes, en cuanto a transferir el riesgo y la responsabilidad a los estudiantes vulnerables, lo que les dificulta encontrar una solución cuando la IA falla.
    Algo de lo que casi nunca hablamos: ¿Quién es responsable cuando la IA falla? ¿Y qué responsabilidad tenemos al introducir algo en el sistema que tiene consecuencias tan complejas para el medio ambiente y la desigualdad, y por qué las instituciones nos obligarían a hacerlo? Así que lo uso, pero principalmente para criticarlo.
    Ahmad: ¿Y cómo has visto la reacción de tus estudiantes? Porque imagino que para las generaciones más jóvenes, adoptar esta tecnología sin pensarlo mucho puede ser tentador, especialmente si sus compañeros la usan de forma constante. ¿Cómo ha sido eso?
     McMillan Cottom: No solo es tentador; hay muchos incentivos para que la usen. Es decir, una de las cosas que sucede cuando la tecnología se convierte en el epicentro de la cultura es que es genial. Y hay tanta ansiedad ahora mismo —sobre si elegiste la carrera correcta, si te graduarás a tiempo, si conseguirás un buen trabajo— que formar parte de la vanguardia tecnológica parece pan comido para la mayoría de los estudiantes. Muchos de ellos ya están empezando la universidad, tras haber estado inmersos en esa ansiedad desde preescolar hasta secundaria.
     Una de las historias más tristes para mí como educadora es que hace unos cuatro años, todos mis nuevos alumnos empezaron a contar que tenían una cuenta de LinkedIn desde la secundaria. Me horroricé.
     Grose: ¡Dios mío!
     McMillan Cottom: Me horroricé, y no entendían por qué. Tuvimos toda una conversación sobre: ¿Qué significa eso? Llevas gestionando tu perfil profesional desde los 13 años, ¿qué te hemos hecho? Pero así es como se presentan en la educación superior y cómo entienden la tecnología. Para muchos de ellos, mi clase podría ser la primera oportunidad que han tenido para reflexionar sobre la tecnología: no solo usarla, no solo adoptarla, no solo dominarla para no quedarse atrás, sino realmente pensar en ella.
     Les plantea un montón de preguntas maravillosas que espero les den una perspectiva para considerar no solo la IA después de que dejen mi clase, sino todo lo que venga después. Porque siempre habrá una nueva ola de tecnología que prometa un futuro más prometedor, pero que oculte los riesgos y las desventajas.
    Así que tienden a estar muy entusiasmados con ella, y aterrorizados, diría yo. Muy asustados.

     Ahmad: Es interesante que a mucha gente le preocupe que la IA inhiba el pensamiento crítico, pero parece que al aplicarlo directamente a la IA, se ha descubierto una laguna en el sistema que permite que la gente se involucre en este tema sin sentir necesariamente la necesidad de externalizar su pensamiento, ya que se trata de la propia IA.
     McMillan Cottom: Debo decir que lo que Jess describió de los profesores que le respondieron sobre cómo utilizan la IA es muy coherente para mí, ya que he observado, especialmente a profesores de humanidades y ciencias sociales durante los últimos 15 años, adaptarse al cambiante entorno tecnológico educativo.
     Siempre me sorprende leer un artículo o una investigación, o escuchar a un político describir a académicos y profesores como luditas o reacios a la tecnología, porque lo que describe Jessica es, de hecho, muy típico de mi campo profesional. Cosas como las humanidades digitales son la respuesta de las humanidades al hecho de que la tecnología es inevitable y que siempre habrá un lugar para la indagación y el aprendizaje humanísticos.
     Y creo que eso es lo que Jessica ve en las respuestas de la gente.
    Grose: Absolutamente, especialmente en la era pos-COVID, donde los estudiantes que ahora son universitarios perdieron años de socialización muy importantes y los ven como habilidades que deben recuperar.
     El pensamiento crítico, y la escritura, sin duda, forman parte de ello. Pero hablar en público, interactuar con la comunidad… y sigo volviendo a la interacción con la comunidad porque algo que encuentro muy deprimente es la pérdida de confianza en la educación superior que se ha producido en las últimas décadas.
Y, obviamente, ha habido un esfuerzo concertado por parte de la derecha para menospreciar la educación superior y sembrar dudas sobre su utilidad. Así que creo que que los estudiantes se involucren más directamente con las comunidades que rodean las escuelas solo puede ser positivo tanto para ellos mismos como para la comunidad circundante y para la confianza en la educación superior en general.

     Ahmad: Tengo una pregunta sobre hasta qué punto esta tecnología es novedosa o diferente a otras tecnologías anteriores. SparkNotes siempre ha existido; los estudiantes siempre han buscado atajos para resumir libros densos. ¿Es esto notablemente diferente cuando hace eso? Tressie, si quieres hablar de eso primero.
    McMillan Cottom: Sí. Jessica señala algo fundamental en la investigación científica sobre el complejo proceso de aprendizaje, y es que el aprendizaje es fundamentalmente un proceso social.       Es lo que llamaríamos relacional. Ocurre en el contexto de las relaciones.
    Entonces, cuando leías las SparkNotes de “Los cuentos de Canterbury”, que, admito, fue quizás mi introducción a SparkNotes hace muchísimos años, una de las cosas que sucedía era que, primero, tenías que ir a comprarlo físicamente.
    Era un medio físico. Había una cultura que te decía lo mismo que te decían los medios físicos. Esto no es una relación. No es una persona quien me lo dice.
     Sabemos con certeza que somos más propensos a confiar en la información, especialmente en la novedosa, cuando sentimos que la obtenemos a través de una relación. Por eso, cuando vas a la biblioteca a responder una pregunta y todo lo demás falla, ¿qué haces? Acudes al bibliotecario, ¿verdad? Porque lo que queremos es una persona que nos ayude a comprender lo que no sabemos.
     Con SparkNotes, eso no es un riesgo. Sabes que el libro no es interactivo. Sabes que no está diseñado para ser algo en lo que confíes necesariamente como lo harías con un profesor o un bibliotecario.
     Creo que el riesgo de la IA es que encubre lo que fundamentalmente son solo resúmenes de interpretaciones comunes del texto, pero lo presenta de una manera que se siente relacional.
    Por eso, cuando ves estas historias de terror —que, admitámoslo, ahora mismo siguen siendo casos de uso extremos—, estas historias de terror de personas que creen haberse enamorado de su IA… O reaniman a un ser querido fallecido como una IA.
     El riesgo es que el cerebro no realiza un buen análisis cuando la voz de la computadora es de una computadora en comparación con una voz humana.
    Creo que se trata de un vehículo fundamentalmente diferente para entregar información que la IA no se ha ganado. La IA no merece la confianza que les damos a los seres humanos cuando se trata de la información que nos proporciona.
    De hecho, no puede ganarse esa confianza porque no es humana. Ese es, para mí, el riesgo.
     Ahmad: El ejemplo de SparkNotes es interesante porque, en última instancia, también participaron humanos en su creación.

    Jessica, escribiste sobre esto en uno de tus artículos: un profesor dio el ejemplo de que los alumnos debían investigar a los profetas. La IA le dijo a uno de los alumnos que Moisés sacó manchas de chocolate de una camiseta, quizá en lugar de agua de una roca.
     Y como son jóvenes, no saben cómo cuestionarlo, porque quizá no saben que Moisés sacó agua de una roca en lugar de chocolate de una camiseta. ¿Cuál era esa historia y qué opinas al respecto?
    Grose: Entonces, obviamente, las alucinaciones siguen ocurriendo y simplemente se trata de información incorrecta. Son dos cosas diferentes. Las alucinaciones son que la IA simplemente se inventa algo. La información incorrecta es que sus fuentes suelen ser incorrectas. Su validez depende de las fuentes de las que se nutre.
    Pero diría que lo que encuentro más inquietante es que en algunas situaciones los alumnos usan ChatGPT o cualquier otro chatbot para escribir el trabajo. Luego se lo entregan a un profesor que usa IA para calificar el examen. Y uno se pregunta: ¿qué hacemos aquí? Ya sabes, son bots hablando con bots. Nadie saca nada de esto.
    Y creo que si tenemos que sacar un resultado positivo de esta nueva tecnología, espero que obligue a los sistemas educativos a reflexionar y preguntarse: ¿Cuáles son los valores que intentamos inculcar en estos estudiantes? ¿Por qué estamos aquí? ¿Qué esperamos que aprendan? ¿Qué esperamos que suceda en el aula?
     Creo que eso puede llevar a cosas realmente mágicas e inspiradoras. Es decir, reportar esta historia me dio ganas de volver a la universidad porque siento que le sacaría más provecho ahora, cuando ya no tengo 20 años y elijo mis clases basándome en si había un chico guapo inscrito.
    Entonces, ¿saben qué? Creo que aún existe un gran deseo, tanto entre estudiantes como entre profesores, de tener una experiencia realmente participativa y no ser simplemente robots hablando con robots para obtener un título.
    Ahmad: Parece que ambos están de acuerdo en que la IA erosiona muchas de estas habilidades que van más allá de la simple memorización de datos e información. Parte del conocimiento académico consiste en aprender a leer y analizar críticamente la información y discernir por uno mismo lo que está bien y lo que está mal.
     Pero tengo curiosidad, ahora que vivimos en un mundo donde el genio ha salido de la botella y muchos estudiantes y jóvenes utilizan la IA, ¿de qué otras maneras se pueden aprender estas habilidades en el aula?
      McMillan Cottom: Quizás una de las mayores amenazas que la IA representa para la educación no es que vaya a inutilizar a los educadores, sino que los hará mucho más necesarios de lo que estamos dispuestos a invertir.
    IA de hecho, hace más importante que contemos con todo tipo de profesionales, desde bibliotecarios hasta consejeros, profesores e investigadores, capaces de contextualizar este cambiante entorno de información y de desarrollar en los estudiantes la capacidad de comprender las cosas.
     Así pues, las habilidades que se obtienen al automatizar tareas cotidianas, al externalizarlas a la tecnología, como promete la IA, hacen que los seres humanos se encarguen, posiblemente, del trabajo de mayor envergadura de comprender las cosas.
      El problema es que aprender la habilidad básica fue un paso previo para aprender a comprender las cosas, ¿verdad? El reto radica en que la IA socava los cimientos del aprendizaje porque te despoja, elimina los errores y las oportunidades de serendipia.
     No hay nada que la IA haga que los seres humanos no solo hagan mejor, sino que, en mi opinión, puedan comprender fundamentalmente mejor. Por lo tanto, nuestra tarea, creo, es simplemente crear oportunidades para que esto suceda en las escuelas y universidades.

     Ahmad: Una cosa, Tressie, que mencionaste brevemente: Para nosotros, que pertenecemos a una generación mayor de usuarios de internet y nos encontramos en una etapa diferente de nuestras vidas, nuestras preocupaciones sobre la IA parecen contrastar con las de la Generación Z y los jóvenes. Jess, escribes a menudo sobre este tema, ¿cómo ves su actitud al respecto? ¿Hay pánico y preocupación entre los jóvenes, o están más dispuestos a adoptar esta tecnología sin reservas?
     Grose: La gama es muy amplia. La Generación Z claramente desconfía, pero el atractivo sigue siendo fuerte y están increíblemente preocupados, como dijo Tressie, por conseguir trabajo, lo cual debería ser cierto. El mercado no es bueno para los empleos de nivel inicial, especialmente los de oficina.
     Pero también, algunos son muy orgullosos, y algunos de los profesores con los que hablé dijeron que a sus estudiantes les ofendía la idea de usar la IA para su trabajo creativo, porque sentían un orgullo real por lo que hacían y un verdadero amor por cualquier actividad creativa que realizaran.
     McMillan Cottom: Sí. Gran parte de esto se debe al miedo y la ansiedad y no a esas emociones positivas que menciona Jessica, lo cual me encanta escuchar, porque una de las cosas de las que no hablamos lo suficiente es cuántas emociones están ligadas a ser un estudiante, a arriesgarse a adquirir  nueva información.
     Tendemos a recordar la satisfacción de haber aprendido algo, pero olvidamos lo difícil y desafiante que puede ser para la identidad aprender algo nuevo. Arriesgarse, fracasar, enorgullecerse y desear que salga bien: todas esas emociones forman parte del proceso.
    Y repito, cuando la IA elimina todos esos ciclos de retroalimentación emocional que facilitan el aprendizaje, en realidad no lo facilita. El simple hecho de conocer un hecho no es lo mismo que aprender, y que estemos negando a los jóvenes la experiencia del orgullo de haber adquirido habilidades, talento y capacidad es, para mí, muy triste.
     Nuestra falta de imaginación sobre el espíritu humano me deprime mucho.
     Y aquí está la cuestión: se supone que los niños no tienen tanta fuerza de voluntad. Atribuir esto a: “Bueno, si no quieres usar IA, no la uses” es desviar la responsabilidad al lugar equivocado.
Se supone que los niños no pueden resistirse a una plataforma altamente sofisticada y basada en investigaciones, diseñada para obligarlos a usarla. Nos corresponde a nosotros, los adultos, a la sociedad, determinar cuál es el nivel adecuado de riesgo al que exponer a los niños.
     Creo que, en realidad, quieren más medidas de seguridad. Creo que anhelan las emociones positivas que acompañan al aprendizaje, pero se supone que no pueden resistirse.
     Se supone que debemos hacer eso por ellos, y creo que a veces lo olvidamos, o simplemente abdicamos por completo de nuestra responsabilidad.
    Ahmad: Empezamos nuestra conversación preguntándonos qué opinan sobre el uso de la IA por parte de los estudiantes, específicamente en la educación superior. Ambos tenían una calificación de dos, pero tengo curiosidad por saber qué tendría que cambiar para que se acercara a un 10.
     McMillan Cottom: Vaya, qué difícil. Siempre me gusta recordarles a todos que los sociólogos no son adivinos, pero bueno. [Grose se ríe].
     Siempre pienso que el potencial de cualquier tecnología mejora si se somete a reglas democráticas. Así que, en el caso de la IA, una de nuestras grandes preguntas hipotéticas es: ¿Quién está al mando? Si la IA causa un gran daño, si la IA se equivoca —parafraseando a los Cazafantasmas—, ¿a quién llamamos?
     Y si no sabemos a quién llamar, suele ser señal de que no hay suficiente supervisión democrática de la tecnología, y si empezamos a forzarla en todo, desde nuestro gobierno hasta nuestra política social, nuestras escuelas y nuestra sanidad, es una pregunta muy importante.
     Yo subiría un poco a un tres, quizás un cuatro, si de lo que estuviéramos hablando es de construir un sistema de regulación y supervisión que sopesara los riesgos frente a las posibles recompensas. Eso me tranquilizaría.
     Grose: Estoy de acuerdo. Cualquier regulación en este momento sería bienvenida.
     McMillan Cottom: Aceptaría cualquier cosa.

     Grose: Nuestro gobierno federal ha señalado que no tiene ningún interés en regular la IA, y lo ve como una lucha de poder con China, buscando quién será el primero, y las barreras se han desvanecido por completo. Así que, cualquier tipo de regulación.
    Y también diría que, si va a ser utilizada por jóvenes, es necesario contar con sistemas diseñados específicamente para sus necesidades. Confiaría un poco más en esos sistemas.
     Ahora mismo me preocupa cualquier cosa que se promocione como una tecnología educativa centrada en los niños y que utilice IA, porque muchos de los que la implementan dirán: “Oh, tenemos todas estas credenciales”, etc., y simplemente no tienen pruebas que lo respalden, no tienen investigación, porque se prioriza la velocidad de adopción, en lugar de averiguar si realmente funciona y es útil.
     Ahmad: ¡Qué lástima!, ¡qué lástima!, a estas adendas.
    Grose: Sí.
     McMillan Cottom: Bastante lástima. Voy a decir lástima.

     Ahmad: Bueno, es un buen punto para terminar nuestra conversación. Gracias a ambos. Ha sido una conversación fascinante. Hasta la próxima.
     Grose: Gracias por la invitación.
     McMillan Cottom: Gracias.
    Ahmad: También pueden encontrarnos en la app del New York Times. Descarguen la app y pulsen “Escuchar” en la parte inferior de la pantalla para encontrarnos a nosotros y a todos los demás programas y artículos narrados del New York Times. Gracias.