زیرساخت

مدل هوش مصنوعی روی سرور خود سازمان: چه زمانی لازم است؟

وقتی داده سلامت، داده بانکی یا صدای تماس‌های فروش نباید از سازمان بیرون برود، مدل هم باید روی سرور اختصاصی اجرا شود. این کار چه زمانی لازم است و چه هزینه‌ای دارد؟

تیم فرداها۲۵ مهر ۱۴۰۵۵ دقیقه مطالعه

اتاق سرور خصوصی با یک مکعب شیشه‌ای معلق که شبکه عصبی نورانی درون آن است، زیر گنبدی کم‌رنگ از نور
در این نوشته
  • اگر داده به افراد مشخص مربوط است، اجرای مدل روی سرور اختصاصی را بررسی کنید.
  • جای سرور کافی نیست؛ بی‌نام‌سازی، ثبت هر دسترسی و پشتیبان‌گیری رمزگذاری‌شده هم لازم است.
  • سرور اختصاصی هزینه سخت‌افزار و نگهداری دارد و مدل‌ها باید مرتب به‌روز و آزموده شوند.

بسیاری از سازمان‌ها می‌خواهند از هوش مصنوعی استفاده کنند، ولی داده‌شان حساس است: پرونده سلامت، اطلاعات مشتریان بانک یا صدای ضبط‌شده تماس‌های فروش. فرستادن این داده به یک سرویس هوش مصنوعی بیرونی برای بسیاری از آن‌ها پذیرفتنی نیست. راه دیگر این است که مدل روی سرور خود سازمان یا روی سرور اختصاصی، در بخشی جدا برای همان سازمان، اجرا شود. در این نوشته می‌خوانید این کار چه زمانی لازم است، چه چیزی روی سرور اجرا می‌شود و چه هزینه‌ای دارد.

چه زمانی داده نباید از سازمان بیرون برود

پاسخ این پرسش را نوع داده تعیین می‌کند، نه نوع فناوری. اگر یکی از این نشانه‌ها در کار شما هست، اجرای مدل روی سرور خود سازمان یا سرور اختصاصی را جدی بررسی کنید:

  • داده شامل نام، شماره تلفن، کد ملی یا سابقه پرونده افراد است.
  • صدای ضبط‌شده تماس‌ها یا جلسه‌ها باید به متن تبدیل و تحلیل شود.
  • مقررات داخلی یا قراردادهای سازمان، ارسال داده به بیرون را منع می‌کند.
  • سامانه باید در شبکه داخلی و بدون دسترسی به اینترنت کار کند.

سه پروژه فرداها دقیقا همین وضعیت را داشتند. در بیگ ماموت، تماس‌های فروش دنیای ماموت تحلیل می‌شود و داده فقط روی سرور ماموت می‌ماند، بدون هیچ سرویس هوش مصنوعی بیرونی. در آوا، شماره تلفن و نام خانوادگی شهروندان از سرور وزارت بهداشت بیرون نمی‌آید و آوا فقط یک شناسه رمزشده می‌بیند. در سنجش عملکرد روابط عمومی بانک گردشگری هم مدل‌ها روی سرور اختصاصی فرداها اجرا می‌شوند و سرویس هوش مصنوعی بیرونی به کار نمی‌رود.

چه چیزی روی سرور اجرا می‌شود

سرور هوش مصنوعی اختصاصی فرداها چهار نوع مدل را اجرا می‌کند. هر کدام برای یک نوع کار است:

  • مدل زبانی متن‌باز، برای خلاصه‌کردن و تحلیل متن و پاسخ به پرسش‌ها.
  • گفتار به متن فارسی، برای تبدیل تماس‌ها و گزارش‌های صوتی به متن.
  • صدای اختصاصی فارسی، برای گوینده ویدیوهای آموزشی.
  • لیپ‌سینک، برای هماهنگ‌کردن حرکت لب گوینده با صدای ساخته‌شده.

مثلا در سنجش عملکرد روابط عمومی بانک گردشگری، کارمند گزارش روزانه را با صدا می‌گوید و مدل محلی آن را به کار، زمان و کار فردا تبدیل می‌کند. در بیگ ماموت هم هر تماس فروش با مدل‌های اختصاصی به متن تبدیل و با حدود ۳۰ شاخص تحلیل می‌شود.

بخش جدا برای هر کارفرما

روی سرور اختصاصی فرداها، هر کارفرما بخش جدای خودش را دارد و داده او با داده کارفرمای دیگر یکجا نگه داشته نمی‌شود. هر جا لازم باشد، این بخش هیچ دسترسی به اینترنت ندارد. در ماموت او اس هم بخش‌های اصلی بدون اینترنت کار می‌کنند.

جای سرور به‌تنهایی کافی نیست

اجرای مدل روی سرور اختصاصی لازم است، ولی کافی نیست. داده باید پیش از پردازش بی‌نام شود؛ یعنی نام، شماره و هر اطلاعاتی که فرد را مشخص می‌کند، پیش از رسیدن به مدل حذف یا با یک شناسه جایگزین شود. برای تحلیل یک گفتگو یا یک گزارش، مدل به این اطلاعات نیاز ندارد.

کنار بی‌نام‌سازی، لایه امنیت و نگهداری هم لازم است. در زیرساخت فرداها این لایه سه بخش دارد:

  • نرم‌افزار امضاشده، تا معلوم باشد آنچه روی سرور اجرا می‌شود همان نسخه منتشرشده است و تغییری نکرده است.
  • ثبت هر دسترسی، تا معلوم باشد چه کسی و چه زمانی به داده دسترسی داشته است.
  • پشتیبان‌گیری هفتگی رمزگذاری‌شده، تا با خرابی سرور داده از دست نرود.

در بیگ ماموت یک قاعده دیگر هم رعایت می‌شود: سامانه تماس فقط خوانده می‌شود و چیزی در آن نوشته نمی‌شود. سرور پردازش هم چیزی نگه نمی‌دارد.

اول مشخص کنید کدام داده نباید از سازمان بیرون برود؛ جای اجرای مدل از پاسخ همین پرسش معلوم می‌شود.

هزینه‌ها و محدودیت‌ها

سرور اختصاصی هزینه سخت‌افزار دارد و کسی باید آن را نگهداری کند: به‌روزرسانی نرم‌افزار، بررسی پشتیبان‌ها و رسیدگی به خرابی‌ها. این هزینه را از همان ابتدا در برآورد پروژه ببینید، نه بعد از راه‌اندازی.

مدل‌های متن‌باز هم ثابت نمی‌مانند و نسخه‌های تازه آن‌ها منتشر می‌شود. هر به‌روزرسانی باید پیش از استفاده روی نمونه‌های واقعی همان سازمان آزموده شود. ظرفیت سرور هم محدود است؛ پس باید از پیش مشخص شود چه کارهایی هم‌زمان روی آن اجرا می‌شوند.

همه کارها هم به اجرای داخلی نیاز ندارند. اگر داده یک کار حساس نیست، شاید اجرای آن روی سرور اختصاصی لازم نباشد. برای همین، این تصمیم را برای هر کار جداگانه بگیرید، نه برای کل سازمان یکجا.

از کجا شروع کنید

یک کار مشخص با داده حساس انتخاب کنید؛ مثلا تحلیل تماس‌های فروش یا گزارش روزانه کارکنان. در مرحله شناخت، فرداها می‌بیند این داده کجا ثبت می‌شود، چه کسانی به آن دسترسی دارند و به کجا فرستاده می‌شود. در بریف فنی هم نوشته می‌شود هر بخش روی چه زیرساختی ساخته می‌شود.

پیش از ساخت کامل، نسخه آزمایشی را روی داده نمونه می‌بینید و نظر می‌دهید. برای شروع، با فرداها تماس بگیرید و یک جلسه شناخت بگذارید.

پروژه بعدی ما، سازمان شماست.گفتگو کنیم.

برای یک جلسه شناخت تماس بگیرید یا به دفتر ما بیایید.

۰۲۱-۹۱۰۹۶۶۴۰

تهران، بلوار آیت‌الله کاشانی، نبش شقایق شمالی، جنب بانک پاسارگاد، طبقه ۴، واحد ۱۴، کد پستی ۱۴۸۳۸۷۴۵۶۶

جلسه طراحی سامانه