ChatGPT y el dilema de la privacidad en los proyectos empresariales

ChatGPT y el dilema de la privacidad en los proyectos empresariales

Juantomás García, Chief Envisioning Officer at SNGULAR

Juantomás García

Chief Envisioning Officer at SNGULAR

21 de noviembre de 2023

En el sector financiero, se vislumbra una nueva revolución, comparable a la del Fintech, en esta ocasión provocada por las nuevas tecnologías de inteligencias artificiales generativas, con implicaciones directas en campos como la atención al cliente y los canales de operación conversacionales. Lo cual, como suele ser habitual,  trae consigo nuevos riesgos relacionados con la seguridad...  Por lo tanto vale la pena hacerse algunas preguntas ¿Qué campos de aplicación en el entorno financiero son los que más se van a ver impactados por la aplicación del Machine Learning? ¿Qué estrategias deberían adoptar los bancos para implantar esta tecnología de tal manera que se maximicen los beneficios y se minimicen los riesgos asociados, como la seguridad y la privacidad de los datos?

Consideramos muy importante acomodar esta tecnología con la normativa de asesoramiento de servicios financieros ya que a la hora de la  implementación de las chatbots basados en inteligencia artificial en de las entidades bancarias debemos considerar si estas tecnologías, especialmente las de generación de textos, pueden estar haciendo recomendaciones financieras a los clientes, como lo haría un asesor personal. Al fin y al cabo han sido diseñados de forma que puedan cumplir este propósito, al menos en lo que a lo que se refiere a simular una conversación con un humano, incluso a realizar recomendaciones que pueden sonar plausibles. Lo cual no quiere decir que una máquina realmente esté siendo consciente de las recomendaciones que realiza y de las connotaciones que esto puede suponer. En todo caso lo que queda claro es que la gente sí que va a recurrir a la tecnología para este tipo de cuestiones por lo que quienes lo desarrollan deben introducir las medidas de seguridad y poco a poco ir mejorando el desempeño de estos modelos.

También es importante que seamos conscientes de que en estos momentos existe mucha confusión al respecto de los tipos de Inteligencia Artificial y las utilidades que pueden ofrecer en este sector, tanto a nivel interno para las propias empresas como en lo que se refiere al uso que pueden hacer las personas. Ya que vemos que hay una gran expectativa al respecto de lo que se puede hacer con ChatGPT y las GenAI, lo cual puede generar confusión al respecto de las aplicaciones concretas de otras tecnologías basadas en machine learning que igualmente ofrezcan otras utilidades más específicas. Lo cual nos lleva a proponer nuevamente que resulta fundamental realizar una labora divulgativa y educativa para que realmente se pueda aprovechar todo el potencial de estas tecnologías sin generar humo y evitando la frustración correspondiente por parte de los usuarios.

También encontramos que  hay muchas dudas en lo relativo a la utilización de ChatGPT  proyectos enterprise, especialmente por lo relativo a cuestiones de privacidad y seguridad, por lo que consideramos que el enfoque debe ser como el que en su momento tuvieron las intranet, donde cada entidad puede lograr un gran control sobre su uso, algo que comienza a estar resuelto en el momento en que los grandes proveedores de cloud, como Google y Microsoft integran estas tecnologías en sus servicios. Esta es la causa por la que en estos momentos estamos viendo una adopción lenta y cautelosa en el desarrollo de proyectos basados en Inteligencia Artificial Generativa para grandes entidades del sector financiero, y en otras industrias, por lo que habrá que esperar a que se entienda mejor cómo funcionan estas tecnologías y qué connotaciones tienen para la empresa.

En todo caso desde SNGULAR siempre vamos a considerar que la clave para el éxito de la adopción de estas tecnologías se encuentra en contar con el talento adecuado y preparado. También nos atrevemos a plantear un futuro cercano donde acabarán llegando los GPTs personalizados para entidades bancarias, o sus equivalentes desarrollados por otras empresas tecnológicas, aunque no será de manera rápida por todas las complejidades que tiene este sector y lo novedosa que es aún esta tecnología.

Aprende más sobre Inteligencia Artificial con el equipo de SNGULAR

Juantomás García, Chief Envisioning Officer at SNGULAR

Juantomás García

Chief Envisioning Officer at SNGULAR

Juantomás García, Chief Envisioning Officer, pone al servicio de SNGULAR su extensa experiencia y conocimiento para analizar el potencial de las nuevas tecnologías e implementarlas en las soluciones y servicios de la empresa. Juantomás es Google Developer Expert for Cloud and Machine Learning, coautor del libro de software en español La Pastilla Roja y creador de “AbadIA”, la inteligencia artificial que está construyendo para resolver el conocido juego de La Abadía del Crimen.A esto hay que sumar sus más de 20 años de trayectoria en diversas compañías y organismos, como Data Solutions Manager en Open Sistemas, Chief Data Officer en ASPgems y Presidente de Hispalinux durante siete años.Es organizador también de los Machine Learning Spain and GDG cloud Madrid meetups, mentor en Google Launchpad para emprendedores y consejero para Deep Learning hyperspectral Image Classification for EE project en la Penn State University.


Nuestras últimas novedades

¿Te interesa saber cómo nos adaptamos constantemente a la nueva frontera digital?

PactFlow & Contract Testing: Un caso de uso empresarial
PactFlow & Contract Testing: Un caso de uso empresarial

Tech Insight

14 de octubre de 2024

PactFlow & Contract Testing: Un caso de uso empresarial

Transformando los pagos digitales a través de la aplicación de cobros de un banco líder internacional
Transformando los pagos digitales a través de la aplicación de cobros de un banco líder internacional

Insight

27 de noviembre de 2023

Transformando los pagos digitales a través de la aplicación de cobros de un banco líder internacional

Conclusiones del Think Tank sobre Financial Services
Conclusiones del Think Tank sobre Financial Services

Insight

21 de noviembre de 2023

Conclusiones del Think Tank sobre Financial Services

Retos de transformación en la cadena digital bancaria
Retos de transformación en la cadena digital bancaria

Insight

21 de noviembre de 2023

Retos de transformación en la cadena digital bancaria