Prezados Clientes,
A utilização de agentes conversacionais baseados em inteligência artificial generativa proporciona ganhos relevantes de eficiência, escala e disponibilidade no atendimento ao público. Ao mesmo tempo, trata-se de tecnologia com características próprias, limitações técnicas e riscos inerentes que devem ser compreendidos e gerenciados de forma adequada.
As presentes Diretrizes Operacionais têm por finalidade orientar os clientes da SmartTalks.ai quanto ao uso responsável, seguro e juridicamente adequado da IA generativa, contribuindo para a redução de riscos operacionais, comerciais, reputacionais e legais, sem comprometer os benefícios da automação.
Os agentes conversacionais da Plataforma SmartTalks.ai utilizam inteligência artificial generativa, tecnologia que opera com base em probabilidades, padrões estatísticos e correlação de dados. Diferentemente de sistemas determinísticos, a IA generativa não "consulta uma base fixa de respostas", mas constrói respostas de forma dinâmica a partir das informações e contextos disponíveis.
Por essa razão, as respostas fornecidas devem ser compreendidas como assistivas, e não como garantias absolutas de exatidão. Mesmo quando corretamente configurada e integrada, a IA pode produzir respostas incompletas, imprecisas ou fora do escopo esperado. Esse comportamento não configura, por si só, falha do sistema, mas característica inerente da tecnologia.
Exemplo prático:
Um agente pode responder corretamente sobre preços em 99% das interações, mas eventualmente informar um valor incorreto por erro de interpretação do contexto ou da integração. Esse risco deve ser considerado no desenho do fluxo.
A qualidade das respostas do agente está diretamente relacionada à qualidade das informações fornecidas pelo cliente. Regras de negócio, políticas comerciais, preços, condições, exceções, benefícios, horários e disponibilidades devem ser claros, atualizados e consistentes entre si.
Recomenda-se que o cliente mantenha um processo interno de governança de conteúdo, com responsáveis definidos para validação, atualização e revisão periódica das informações utilizadas pelo agente, especialmente em operações dinâmicas.
Exemplos práticos:
Fluxos que envolvem impacto financeiro, direitos do consumidor, exceções, benefícios, condições especiais ou decisões relevantes exigem cautela adicional. Nesses casos, a automação total deve ser avaliada com cuidado.
Recomenda-se que, nesses fluxos, sejam implementadas validações adicionais, mensagens de confirmação, limites de atuação do agente ou encaminhamento para atendimento humano, reduzindo a probabilidade de decisões baseadas exclusivamente em resposta automatizada.
Exemplos práticos:
A transparência com o usuário final é elemento relevante de boa prática e, em determinados contextos, requisito regulatório. Recomenda-se que o usuário seja informado, de forma clara e adequada ao canal utilizado, de que está interagindo com um agente automatizado.
Também é recomendável indicar que determinadas informações devem ser confirmadas por canais oficiais, especialmente quando envolvem valores, condições contratuais ou exceções. A forma e o tom dessa comunicação devem ser definidos pelo cliente, considerando seu público e sua estratégia de atendimento.
Exemplo prático:
"Sou um assistente virtual e posso te ajudar com informações gerais. Para confirmar valores e condições específicas, consulte nossos canais humanizados/consultor online."
Disclaimers e avisos operacionais são mecanismos eficazes de mitigação de risco e devem ser considerados como parte do desenho do fluxo. Eles ajudam a alinhar a expectativa do usuário final quanto ao alcance das respostas fornecidas.
A decisão de não utilizar disclaimers deve ser tomada de forma consciente, considerando os riscos jurídicos, consumeristas e reputacionais envolvidos, especialmente em setores regulados ou de grande exposição ao público.
Exemplos práticos:
Quando o agente conversacional estiver integrado a sistemas do cliente (ERP, CRM, sistemas de vendas, reservas ou estoque), é essencial garantir que essas fontes estejam corretamente configuradas, atualizadas e seguras.
A IA generativa interpreta e apresenta as informações recebidas dessas integrações. Dados inconsistentes, desatualizados ou incompletos podem gerar respostas incorretas, ainda que o agente esteja tecnicamente operando de forma adequada.
Exemplos práticos:
A utilização de IA generativa não é atividade estática. Recomenda-se que o cliente monitore periodicamente as interações, identifique padrões de erro, dúvidas recorrentes ou comportamentos inesperados do agente.
Esse acompanhamento permite ajustes progressivos nos fluxos, conteúdos e integrações, melhorando a qualidade do atendimento e reduzindo riscos ao longo do tempo.
Exemplo prático:
Análise semanal ou mensal de conversas para identificar perguntas mal interpretadas ou respostas ambíguas.
Respostas inesperadas, inconsistentes ou potencialmente incorretas devem ser tratadas como incidentes operacionais e comunicadas pelos canais oficiais de suporte da SmartTalks.ai, com o máximo de contexto possível.
O registro adequado desses incidentes contribui para a análise técnica, a correção de fluxos e a mitigação de impactos, não devendo ser interpretado automaticamente como falha da Plataforma.
Exemplo prático:
Registro de conversa específica em que o agente forneceu informação incorreta, com data, contexto e impacto percebido.
O cliente é responsável por assegurar que o uso da IA generativa em seus fluxos de atendimento esteja em conformidade com a legislação aplicável ao seu setor, incluindo normas consumeristas, regulatórias e setoriais específicas.
A SmartTalks.ai fornece a tecnologia e a infraestrutura, cabendo ao cliente avaliar a adequação do uso da IA às suas obrigações legais, à sua política interna e à sua relação com usuários finais.
A inteligência artificial generativa é ferramenta poderosa, mas exige governança, expectativa realista e uso responsável. A observância destas Diretrizes Operacionais contribui para uma utilização mais segura, previsível e alinhada às melhores práticas técnicas e jurídicas.
Estas diretrizes complementam os Termos de Uso da Plataforma, a Política de Uso de Inteligência Artificial e o contrato de licença firmado entre as partes, devendo ser interpretadas de forma conjunta.