2026-05-11

நிதித் துறையில் பல-மாதிரி AI-க்கான தானியங்கி ரெட் டீமிங்

m365.fm பாட்காஸ்டின் இந்த எபிசோடில், நவீன நிறுவன சூழல்களில் பாரம்பரிய AI பாதுகாப்பு சோதனை ஏன் போதுமானதாக இல்லை என்பதை Mirko Peters ஆராய்கிறார். பல AI மாதிரிகள், copilots, APIs மற்றும் தானியங்கி அடுக்குகள் ஒன்றோடொன்று தொடர்பு கொள்ளும் நிதி போன்ற அதிக ஒழுங்குமுறை கொண்ட தொழில்களில் உள்ள பல-மாதிரி AI அமைப்புகளுக்கான "ரெட் டீமிங்" பற்றிய விவாதம் இதில் கவனம் செலுத்துகிறது. சூழல், தொடர் prompts, ஒருங்கிணைப்புகள், நினைவகம் மற்றும் பயனர் நடத்தையைப் பொறுத்து AI அமைப்புகள் வேறுபட்டு செயல்படுவதால் கைமுறை சோதனை முறைகள் ஏன் தோல்வியடைகின்றன என்பதை எபிசோட் விளக்குகிறது. தனித்து பார்க்கும்போது பாதுகாப்பாகத் தோன்றும் ஒரு மாதிரி, பிற அமைப்புகள் அல்லது தானியங்கி பணிப்பாய்வுகளுடன் இணைக்கப்பட்டவுடன் பாதிக்கப்படக்கூடியதாக மாறலாம். நவீன தாக்குதல்கள் எளிய prompt injections அல்ல, பல-படி, தகவமைப்பு மற்றும் சேதம் ஏற்படும் வரை பெரும்பாலும் கண்ணுக்குத் தெரியாதவை என்று Mirko வலியுறுத்துகிறார். நிறுவனங்கள் AI-ஐ ஒரு chatbot ஆகக் கருதுவதை நிறுத்திவிட்டு, அதற்குப் பதிலாக...

Apple Podcasts · Spotify · YouTube · YouTube Music

Automated Red Teaming for Multi-Model AI in Finance (English)