Os avanços na inteligência artificial trouxeram novos riscos à segurança digital, especialmente para quem lida com informações confidenciais. Uma das medidas mais recentes nesta área é o método de restrição do ChatGPT, recurso que bloqueia a conexão do dispositivo à Internet para proteger os dados pessoais do usuário contra tentativas de exfiltração por meio de injeção. Principal.
Este recurso, pensado principalmente para ambientes empresariais e educacionais, prioriza a segurança em situações perigosas, mesmo que isso signifique uma redução perceptível na funcionalidade normal da plataforma.
O modo limitado é um modo avançado que pode ser feito e que limita bastante o equipamento e as possibilidades de Bate-papoGPT. Seu principal objetivo é proteger as informações confidenciais de organizações e usuários que enfrentam altas ameaças de ataques de liberação de dados, principalmente aqueles que utilizam técnicas de injeção. Principal quebrar o sistema.
Segundo a OpenAI, esta abordagem baseia-se numa abordagem determinística, o que significa que bloqueia o fluxo de dados de forma previsível e controlada, bloqueando canais que podem ser explorados por maus atores.
A segurança que oferece O método limitado baseia-se no isolamento do trabalho importante e na limitação de toda a comunicação com a rede externa.. Segundo a OpenAI, embora as pesquisas sobre injeção rápida ainda estejam em desenvolvimento, a empresa reforçou a sua proteção em diferentes níveis: desde modelos e produtos até infraestrutura.
Entre as medidas implementadas estão o isolamento de ambiente seguro (sandbox), bloqueio de divulgação de dados via URL, monitoramento avançado do negócio e monitoramento contínuo que permite detecção e ação contra qualquer tentativa de violação.
O modo restrito impede o acesso a malgaxe em tempo real, permitindo apenas solicitações de conteúdo em cache. Isso limita a capacidade do dispositivo de enviar dados pela rede, embora também possa afetar a atualização e a disponibilidade de alguns resultados de pesquisa.
Outros recursos, como criação e visualização de imagens, análise avançada e fluxos de trabalho de funcionários, também ficam desabilitados quando esse recurso está habilitado.
Quando o modo restrito está ativado, diversas habilidades básicas do Bate-papoGPT Eles não existem mais. Entre as mudanças mais notáveis está a impossibilidade de visualizar a web diretamente; As pesquisas são limitadas a materiais previamente arquivados, o que pode resultar em informações incompletas.
Também não é possível ao ChatGPT incluir imagens nas respostas, embora os usuários ainda possam fazer upload de seus próprios documentos ou participar da criação de imagens a partir da plataforma.
Os recursos de pesquisa avançada e os métodos do operador foram suspensos, assim como a capacidade do código gerado pelo canvas de acessar a rede. Outro ponto importante é que o sistema não permite o download de arquivos para análise, embora mantenha a capacidade de trabalhar com documentos adicionados manualmente pelo usuário.
É importante observar que o modo limitado não afeta o uso de memória, upload de arquivos ou bate-papo. Esses recursos permanecem intactos, a menos que o administrador decida alterar suas configurações individuais. Além disso, a restrição de acesso à rede não se estende à plataforma Codex, que mantém sua funcionalidade normal.
O trabalho de aplicativoincluindo MCPs e conectores, eles introduzem riscos adicionais porque podem ser conectados à Internet e usados por invasores para extrair dados por meio de técnicas de injeção rápida.
Por esse motivo, a OpenAI recomenda que os administradores limitem estritamente as aplicações e ações permitidas aos usuários de forma limitada, e recomenda permitir o mínimo necessário aos usuários. trabalho.
As recomendações da empresa categorizam o risco em diferentes níveis. Conectores e eventos de leitura em aplicativos confiáveis apresentam um risco médio porque não geram solicitações de rede externa, mas podem ser uma fonte de dados confidenciais.
As operações de escrita, mesmo em aplicações confiáveis, são mais vulneráveis a efeitos nocivos, por isso é melhor limitá-las a quem confia plenamente no ambiente. Ações em aplicativos não confiáveis, sejam de leitura ou gravação, são consideradas perigosas e não é recomendado para usuários que trabalham com o modo restrito ativado.
Atualmente existe um modo limitado de controle de versão ChatGPT Enterprise, Edu, ChatGPT para Saúde e ChatGPT para Professores. A OpenAI anunciou que planeja expandir essa funcionalidade para seu cliente ChatGPT e planos de equipes nos próximos meses, ampliando o acesso a mais usuários.
Para ativar esta proteção, os administradores podem criar uma função especial chamada “Modo Controlado” e atribuir usuários conforme necessário. Esta dinâmica permite às organizações gerir o nível de exposição dos seus dados e adaptar as medidas de segurança às necessidades de cada grupo de trabalho.
Além do método limitado, a plataforma de cadastro da empresa API A conformidade fornece uma visão detalhada de como os aplicativos são usados, os dados compartilhados e os recursos conectados. Esta ferramenta é essencial para monitoramento de segurança em um ambiente que amplia suas capacidades e alcance.
