top of page
Buscar
  • Foto do escritorconnectdata

ChatGPT: entenda tudo sobre e conheça 5 principais riscos

O ChatGPT é a grande sensação do momento no universo tecnológico. E com seu surgimento, surgiram também diversas questões que, na verdade, já foram levantadas muitas vezes antes com a popularização de diversos tipos de tecnologia. Questionamento como isso vai transformar nossa educação e nossas vidas? Ou é uma ferramenta para deslocamento de empregos, guerra de informações e abuso?


O que é, de fato, o ChatGPT e como ele vai afetar o cotidiano das pessoas?


Como descrito no próprio site da OpenAI, o ChatGPT é um modelo de chat treinado que interage de forma conversacional. O formato de diálogo permite que o ChatGPT responda a perguntas de acompanhamento, admita seus erros, conteste premissas incorretas e rejeite solicitações inadequadas.


Há quem diga que provavelmente ele terá um impacto extremamente positivo nos negócios, na liderança e no RH, e que também tem o potencial de impactar muito na vida dos consumidores.


Mas será que há motivo para todo este alarde mesmo?


Vamos entender um pouco mais sobre este fenômeno tecnológico que surgiu em novembro de 2022.


Acompanhe!


ChatGPT: o que é?


Você já parou para pensar se pudesse conversar com um computador como conversa com um ser humano?


É mais ou menos essa a ideia por trás de inteligências artificiais como a Alexa, por exemplo, certo?


Porém, quem já tentou travar um diálogo com a mocinha da Apple ou com outras inteligências artificiais certamente já percebeu que ainda falta muito para que elas se portem, realmente, como seres humanos.


E é justamente por isso que o ChatGPT ficou tão rapidamente tão famoso: ele fornece respostas e proporciona uma interação muito mais refinada e aproximada do comportamento humano que as AIs que existiam até então.


O ChatGPT é realmente uma ferramenta poderosa que oferece uma experiência única e envolvente para os usuários.


É baseado na família GPT-3 da OpenAI de grandes modelos de linguagem, que foram ajustados com técnicas de aprendizado supervisionado e por reforço.


Essa combinação de tecnologias avançadas resultou em um chatbot altamente sofisticado e inteligente que pode interagir com os usuários de maneira natural e conversacional.


Como funciona o ChatGPT?


O fato de ele ter sido treinado com base numa enorme, com ênfase no enorme, quantidade de dados que cobrem uma ampla - com ênfase em ampla! - gama de tópicos e conversas.


Ao contrário de outros assistentes de IA como Siri ou Alexa, o chatGPT não usa a internet para localizar respostas. Em vez disso, ele constrói uma frase palavra por palavra, selecionando o "token" mais provável que deve vir a seguir, com base em seu treinamento.


De livros e artigos de notícias a sites, o chatbot foi treinado em uma tão vasta variedade de fontes de texto, incluindo linguagem formal, informal e até emojis, que o resultado é uma AI capaz de entender e discorrer sobre praticamente qualquer assunto. Mas não sem possibilidade de erros, deve-se destacar.


Um dos recursos de destaque do ChatGPT é sua capacidade de entender o processamento de linguagem natural. Isso significa que os usuários podem interagir com o chatbot de uma forma intuitiva e natural.


O chatbot pode responder a perguntas, fornecer informações e até mesmo se envolver em conversas alegres.


Mas, é bom salientar novamente, embora a tecnologia seja altamente avançada, ela tem suas limitações. Como qualquer tecnologia, o serviço ainda pode cair de vez em quando, causando frustração nos usuários, além de apresentar outras questões sobre as quais falaremos em adiante.


OpenAI: quem é a criadora do ChatGPT?


A OpenAI é uma empresa de pesquisa e implementação de AI que está dando o que falar.


Ela foi fundada em 11 de setembro de 2015 e é, de fato, um laboratório norte-americano de pesquisas em inteligência artificial. Elon Musk, Sam Altman, Peter Thiel, Reid Hoffman, Jessica Livingston são os principais fundadores da empresa, que nasceu em São Francisco nos Estados Unidos.


Foi pensada, ao menos inicialmente, para ser uma empresa que desenvolveria uma inteligência artificial que beneficiaria toda a humanidade.


Ela é administrada por uma organização sem fins lucrativos e possui um modelo exclusivo de lucro limitado, que impulsiona um compromisso maior com a segurança, de acordo com a própria OpenAI.


Isso significa que à medida que a AI se torna mais poderosa, a empresa pode redistribuir os lucros para maximizar os benefícios sociais e econômicos da tecnologia de inteligência artificial.


Em 2016, a OpenAI lançou o Gym, um sistema que ensina a IA a tomar decisões por meio de recompensas, e lançou também o Universe, kit de ferramentas desenvolvido para o treino de agentes inteligentes.


Já em 2019, criou uma ferramente de IA que gerou polêmicas por ser capaz de criar notícias falsas, mas que não foi lançado justamente por ser muito bom em gerar notícias falsas.


Em 2020 o chat GPT-3 foi inspirado neste projeto.


E em 2021 a OpenAI criou o Dall-E, um sistema capaz de criar imagens realistas com base em descrições.


Com o lançamento do ChatGPT reuniu mais de 1 milhão de usuários em 5 dias.


Dentre os muitos feitos do ChatGPT, destaca-se o de criar redações, por exemplo, tendo sido testado por usuários para fazer redações com temas do ENEM, por exemplo, o que gerou muita controvérsia.


Foi suscitado, no meio publicitário, que ChatGPT substituiria a função do redator, justamente por ser tão bom com a criação de conteúdos.


Por isso, apesar de genial e muito útil em diversos aspectos, o recurso tem sido também muito criticado.


A seguir, confira alguns dos problemas com o ChatGPT.


5 problemas com o ChatGPT

  1. ChatGPT não está sempre certo

Ele falha em matemática básica, por exemplo, e não consegue responder a perguntas lógicas simples e chega a argumentar sobre fatos completamente incorretos, de acordo com relatos de alguns usuários.


O ChatGPT às vezes escreve respostas plausíveis, mas incorretas ou sem sentido, de acordo com a própria OpenAI.


2. ChatGPT possui comportamento Enviesado

O ChatGPT foi treinado na escrita coletiva de seres humanos em todo o mundo, do passado e do presente.


Isso significa que os mesmos vieses que existem nos dados também podem aparecer no modelo e em seus resultados.


De fato, os usuários mostraram como o ChatGPT pode produzir algumas respostas terríveis, algumas, por exemplo, que discriminam as mulheres. Mas isso é apenas a ponta do iceberg; pode produzir respostas extremamente prejudiciais para uma série de grupos minoritários.


3. ChatGPT representa um perigo para a educação

Alunos podem pedir ao ChatGPT para revisarem suas redações ou apontar como melhorar um parágrafo, mas também podem pedir para que o chat desenvolva toda a redação, por exemplo, atrapalhando completamente o processo educativo.


4. Pode realmente prejudicar seriamente as pessoas e as sociedades

Fornecendo informações errôneas, como um conselho médico equivocado, por exemplo, o ChatGPT atrapalha diretamente a vida do seu usuário.


Mas há outras preocupações também: contas falsas de mídia social representam um grande problema e, com a introdução de chatbots de IA, os golpes na Internet se tornariam mais fáceis de realizar.


A disseminação de informações falsas é outra preocupação, especialmente quando o ChatGPT faz com que até respostas erradas pareçam convincentemente corretas.


5. Boas intenções e alto poder de dados concentrado: a OpenAI seria a Toda Poderosa

Apesar de todas as boas intenções manifestas no site da OpenAI, um poder de dados tão grande é perigoso.


Como diz a máxima popular, com grandes poderes vêm grandes responsabilidades, e a OpenAI detém muito poder.


É uma das primeiras empresas de IA a realmente abalar o mundo não com um, mas com vários modelos de IA, incluindo Dall-E 2, GPT-3 e agora, ChatGPT.


O OpenAI é quem escolhe com quais dados vai treinar o ChatGPT e como ele lida com as consequências negativas.


Quer concordemos com os métodos ou não, ela continuará desenvolvendo essa tecnologia de acordo com seus próprios objetivos.


Embora a OpenAI alegue que considera a segurança uma alta prioridade, há muito que não sabemos sobre como os modelos de AI são criados.


ChatGPT: conclusão


Não se pode negar que o ChatGPT é um chatbot inovador e altamente sofisticado que oferece uma experiência única e envolvente para os usuários, cujo futuro parece brilhante, com rumores do lançamento do GPT-4 em 2023.


A OpenAI também está oferecendo um serviço premium, ChatGPT Plus, por US$ 20 por mês, que atualmente está disponível apenas nos Estados Unidos. Além disso, eles planejam lançar um Plano Profissional do ChatGPT por US$ 42 por mês.

Embora essas opções premium ofereçam recursos mais avançados, o plano gratuito ainda estará disponível para quem procura uma opção mais acessível, embora o acesso possa ser limitado com base na demanda.


À medida que a tecnologia continua a melhorar e evoluir, é, sim, emocionante imaginar o que o futuro reserva para o ChatGPT e outros chatbots de IA de outras empresas, como a IBM, por exemplo.


Contudo, como toda nova tecnologia, é preciso ter um pé atrás e ficar sempre em constante estado de alerta e cuidado com o ativo mais valioso que existe hoje em dia, e não estamos falando do petróleo: seus dados.


Sim, dados são o novo petróleo. São eles que fornecem todo o poder a empresas como a OpenAI, por exemplo, e é com eles que você deve se preocupar.


Além, é claro, de ter sempre o senso crítico apurado e o bom senso afiado, para saber diferenciar o que é útil do que é inútil e, pior, prejudicial quando utilizando um programa de AI, seja o ChatGPT, seja Alexa, seja Siri ou qualquer outro.


35 visualizações0 comentário

Comments


bottom of page