El papel crucial de los humanos en la integración de IA en la programación

Tabla de contenidos

1. Introducción a la integración de IA en la programación
2. Desafíos de la programación humana
3. Limitaciones de la IA en la programación
4. Visión de la integración perfecta de IA en la programación
5. Verificación y reparación humana en la programación asistida por IA
6. Diseño de sistemas mediante IA en la gestión de restaurantes
7. Sistemas de consulta SQL generados por IA
8. Manteniendo la consistencia en el diseño del esquema del sistema
9. Solución de problemas mediante verificación y reparación automatizada
10. Colaboración entre humanos y IA en la ingeniería de software asistida por IA
11. El papel crítico de los humanos en la calidad del código generado por IA

Introducción a la integración de IA en la programación

¡Hola a todos! Soy Alex, estudiante de doctorado en el MIT y estoy trabajando en la integración de inteligencia artificial (IA) con la programación. En este artículo, les daré una visión de los desafíos y las oportunidades de esta integración. Aunque muchos creen que la IA reemplazará por completo la programación, no será tan fácil como parece. Vamos a explorar los aspectos difíciles de esta integración y cómo podría afectar nuestro futuro en el campo de la programación.

Desafíos de la programación humana

Antes de adentrarnos en el tema de la IA, debemos entender los desafíos de la programación humana. Pensemos en el diseño de software para una aplicación de gestión de restaurantes. ¿Cómo lo haríamos? Primero, realizaríamos un diseño de alto nivel y escribiríamos el código correspondiente, lo cual llamaremos síntesis. Luego, para asegurarnos de que todo el código sea Correcto, escribiríamos pruebas, lo cual implica verificación. Por último, como todos los programadores saben, inevitablemente encontraremos errores y tendremos que corregirlos, lo cual es el proceso de reparación. Este ciclo de síntesis, verificación y reparación se repetiría una y otra vez hasta obtener un software perfecto. Estos son los desafíos fundamentales de la programación, ya sea humana o automatizada.

Limitaciones de la IA en la programación

Ahora hablemos de la IA. ¿Cuántos de ustedes han oído hablar de GitHub COPILOT o ChatGPT? ¡Muchos de ustedes! Estos avances en IA han llamado la atención en el campo de la programación. Sin embargo, la IA actual tiene limitaciones importantes. Si bien es capaz de realizar síntesis, es decir, generar código, no tiene la capacidad de realizar verificación y reparación. Esto significa que la IA no puede garantizar la corrección ni la seguridad del código que genera. Por ejemplo, se ha demostrado que el código generado por Copilot puede contener errores que llevan mucho tiempo descubrir. Además, los investigadores han demostrado que la IA puede generar código vulnerable, lo cual podría dar lugar a crisis de seguridad. Estas limitaciones nos indican que no podemos depender exclusivamente de la síntesis de la IA, sino que también necesitamos que la IA realice verificación y reparación.

Visión de la integración perfecta de IA en la programación

Ahora, imaginemos un mundo donde la IA pueda realizar tanto la verificación como la reparación. ¿Cómo podríamos diseñar un sistema que se integre de manera fluida para facilitar la programación? Permítanme mostrarles una visión inspirada en uno de mis proyectos personales. Verán que el tema común es que, aunque la IA realiza la mayor parte del trabajo pesado, los humanos aún tienen el control.

Saltemos nuevamente al ejemplo de la aplicación de gestión de restaurantes. Le digo a la IA lo que necesito y ella sintetiza la funcionalidad que quiero que tenga mi aplicación. Dado que cada restaurante tiene necesidades diferentes, en lugar de autocompletar todos los detalles, el sistema me preguntará qué quiero exactamente. Esto implica una verificación y reparación humana. Una vez que le indico mis preferencias, la IA sintetiza consultas SQL que describen precisamente lo que le pedí. Además, no solo puedo obtener las consultas SQL, sino también toda la base de datos que las respalda. Aquí está la clave: al combinar la síntesis con la verificación, puedo asegurarme de que las consultas y el esquema sean perfectamente consistentes entre sí.

Verificación y reparación humana en la programación asistida por IA

Pero esta verificación de consistencia nos permite ir aún más lejos. Digamos que quiero realizar algunos cambios en el esquema, como renombrar "precio" por "costo". ¡Aquí viene lo asombroso! El sistema puede determinar automáticamente cómo reparar las consultas, cambiando "suma de precios" por "suma de costos". Sin embargo, hay que tener en cuenta que la perfección no es Algo alcanzable ni para los humanos ni para la IA. Entonces, ¿cómo encontramos problemas cuando surgen? Aquí es donde entra en juego la verificación, pero podemos llevarlo un paso más allá. En lugar de depender únicamente del usuario para corregir los errores, la IA puede sugerir posibles soluciones. La clave está en involucrarnos tanto como sea posible en el proceso de verificación y reparación. Podemos verificar la validez de los casos de prueba, agregar los nuestros para adaptarlos a nuestras necesidades, examinar el código que se ha generado y decirle a la IA qué arreglar. Mediante la colaboración en todos los aspectos de la corrección, desde la corrección de errores hasta la mejora de la legibilidad y el rendimiento, podemos lograr la implementación perfecta de nuestra aplicación de gestión de restaurantes.

Como pudimos ver, la clave de esta colaboración es tener a los humanos y a la IA involucrados en los tres componentes: síntesis, verificación y reparación. Sin embargo, actualmente, la IA se centra principalmente en la síntesis y aún no hemos llegado a un punto en el que se ocupe de manera efectiva de la verificación y la reparación. Esto es evidente en la cantidad de código incorrecto que se Genera. A medida que ampliamos nuestra escala y trabajamos en sistemas de software mucho más grandes, como los que utilizan las compañías más grandes del mundo, esta es una situación que empeora aún más. La IA no será capaz de razonar sobre bases de código que contengan millones de líneas ni de hacerlo bien a la primera.

Por lo tanto, a menos que queramos correr el riesgo de tener código incorrecto e inseguro infiltrándose en nuestras bases de código, necesitamos un futuro en el que la IA asista en la ingeniería de software, pero en el que los humanos, como ustedes y como yo, estemos en el centro del proceso. Debemos asegurarnos de que el código que obtengamos sea el código que queremos.

Muchas gracias.