2026-05-11

ਵਿੱਤ ਵਿੱਚ ਮਲਟੀ-ਮਾਡਲ AI ਲਈ ਸਵੈਚਾਲਿਤ ਰੈੱਡ ਟੀਮਿੰਗ

m365.fm ਪੋਡਕਾਸਟ ਦੇ ਇਸ ਐਪੀਸੋਡ ਵਿੱਚ Mirko Peters ਇਹ ਖੋਜਦੇ ਹਨ ਕਿ ਆਧੁਨਿਕ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਰਵਾਇਤੀ AI ਸੁਰੱਖਿਆ ਜਾਂਚ ਹੁਣ ਕਿਉਂ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ। ਚਰਚਾ ਮਲਟੀ-ਮਾਡਲ AI ਸਿਸਟਮਾਂ ਲਈ “ਰੈੱਡ ਟੀਮਿੰਗ” 'ਤੇ ਕੇਂਦਰਿਤ ਹੈ, ਖ਼ਾਸ ਕਰਕੇ ਵਿੱਤ ਵਰਗੇ ਉੱਚ-ਨਿਯੰਤ੍ਰਿਤ ਉਦਯੋਗਾਂ ਵਿੱਚ, ਜਿੱਥੇ ਕਈ AI ਮਾਡਲ, ਕੋਪਾਇਲਟ, APIs ਅਤੇ ਆਟੋਮੇਸ਼ਨ ਪਰਤਾਂ ਆਪਸ ਵਿੱਚ ਕੰਮ ਕਰਦੀਆਂ ਹਨ। ਐਪੀਸੋਡ ਦੱਸਦਾ ਹੈ ਕਿ ਹੱਥੀਂ ਕੀਤੀ ਜਾਂਚ ਕਿਉਂ ਅਸਫਲ ਹੁੰਦੀ ਹੈ, ਕਿਉਂਕਿ AI ਸਿਸਟਮ ਸੰਦਰਭ, ਜੁੜੇ ਹੋਏ prompts, ਇੰਟੀਗ੍ਰੇਸ਼ਨਾਂ, ਮੈਮੋਰੀ ਅਤੇ ਉਪਭੋਗਤਾ ਦੇ ਵਿਵਹਾਰ ਅਨੁਸਾਰ ਵੱਖਰਾ ਵਰਤਾਅ ਕਰਦੇ ਹਨ। ਇਕੱਲਾ ਸੁਰੱਖਿਅਤ ਦਿਖਣ ਵਾਲਾ ਮਾਡਲ ਜਦੋਂ ਹੋਰ ਸਿਸਟਮਾਂ ਜਾਂ ਖੁਦਮੁਖਤਿਆਰ ਵਰਕਫਲੋ ਨਾਲ ਜੁੜਦਾ ਹੈ, ਤਾਂ ਕਮਜ਼ੋਰ ਹੋ ਸਕਦਾ ਹੈ। Mirko ਉਜਾਗਰ ਕਰਦੇ ਹਨ ਕਿ ਆਧੁਨਿਕ ਹਮਲੇ ਹੁਣ ਸਧਾਰਨ prompt injection ਨਹੀਂ ਰਹੇ, ਸਗੋਂ ਬਹੁ-ਪੜਾਅ, ਅਨੁਕੂਲਨਸ਼ੀਲ ਅਤੇ ਅਕਸਰ ਨੁਕਸਾਨ ਹੋ ਜਾਣ ਤੱਕ ਅਦਿੱਖ ਹੁੰਦੇ ਹਨ। ਇੱਕ ਮੁੱਖ ਵਿਸ਼ਾ ਇਹ ਹੈ ਕਿ ਸੰਸਥਾਵਾਂ ਨੂੰ AI ਨੂੰ ਸਿਰਫ਼ ਚੈਟਬੋਟ ਸਮਝਣਾ ਬੰਦ ਕਰਕੇ, ਇਸਨੂੰ ਇੱਕ ਸੰਚਾਲਨ ਹਿੱਸੇ ਵਜੋਂ ਵੇਖਣਾ ਚਾਹੀਦਾ ਹੈ ਜਿਸਦੀ ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ ਅਤੇ ਸਵੈਚਾਲਿਤ ਜਾਂਚ ਜ਼ਰੂਰੀ ਹੈ।

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)