Gemini Nano

জেমিনি ন্যানো আপনাকে নেটওয়ার্ক সংযোগ বা ক্লাউডে ডেটা পাঠানো ছাড়াই সমৃদ্ধ জেনারেটিভ এআই অভিজ্ঞতা প্রদান করতে দেয়। যেসব ক্ষেত্রে স্বল্প ব্যয় এবং গোপনীয়তা সুরক্ষা আপনার প্রধান বিবেচ্য বিষয়, সেসব ব্যবহারের জন্য অন-ডিভাইস এআই একটি চমৎকার সমাধান।

ডিভাইসে ব্যবহারের ক্ষেত্রে, আপনি গুগলের জেমিনি ন্যানো ফাউন্ডেশন মডেলের সুবিধা নিতে পারেন। জেমিনি ন্যানো অ্যান্ড্রয়েডের এআইকোর সিস্টেম সার্ভিসে চলে , যা ডিভাইসের হার্ডওয়্যার ব্যবহার করে কম ইনফারেন্স ল্যাটেন্সি নিশ্চিত করে এবং মডেলটিকে হালনাগাদ রাখে।

এমএল কিট জেনএআই এপিআই

এমএল কিট-এর জেনএআই এপিআইগুলো আপনার অ্যাপকে বিভিন্ন কাজ সম্পাদনে সাহায্য করার জন্য জেমিনি ন্যানো-র শক্তিকে কাজে লাগায়। এই এপিআইগুলো একটি উচ্চ-স্তরের ইন্টারফেসের মাধ্যমে জনপ্রিয় ব্যবহারের ক্ষেত্রগুলোতে ইনস্টল করার সাথে সাথেই উন্নত মানের কার্যকারিতা প্রদান করে। এমএল কিট জেনএআই এপিআইগুলো এআইকোর (AICore)-এর উপর ভিত্তি করে নির্মিত, যা একটি অ্যান্ড্রয়েড সিস্টেম পরিষেবা। এটি স্থানীয়ভাবে ডেটা প্রক্রিয়াকরণের মাধ্যমে উন্নত অ্যাপ কার্যকারিতা এবং ব্যবহারকারীর গোপনীয়তা বৃদ্ধির মতো বৈশিষ্ট্যগুলো সহজতর করতে ডিভাইসেই জেনএআই ফাউন্ডেশন মডেলগুলো কার্যকর করতে সক্ষম করে। আরও জানুন

মূল বৈশিষ্ট্য

এমএল কিট জেনএআই এপিআইগুলো নিম্নলিখিত বৈশিষ্ট্যগুলো সমর্থন করে:

  • প্রম্পট : একটি কাস্টম শুধুমাত্র-পাঠ্য অথবা মাল্টিমোডাল প্রম্পটের উপর ভিত্তি করে পাঠ্য বিষয়বস্তু তৈরি করুন।
  • সারসংক্ষেপ : প্রবন্ধ বা কথোপকথনকে বুলেট তালিকা আকারে সংক্ষিপ্ত করুন।
  • প্রুফরিডিং : ছোট চ্যাট বার্তাগুলো প্রুফরিড করুন।
  • পুনর্লিখন : ছোট চ্যাট বার্তাগুলো ভিন্ন সুর বা শৈলীতে পুনর্লিখন করুন।
  • ছবির বিবরণ : প্রদত্ত ছবির একটি সংক্ষিপ্ত বিবরণ তৈরি করুন।
  • স্পিচ রিকগনিশন : কথ্য অডিওকে টেক্সটে রূপান্তর করুন।

AICore এর মাধ্যমে স্থাপত্য

একটি সিস্টেম-লেভেল মডিউল হিসেবে, ডিভাইসে ইনফারেন্স চালানোর জন্য আপনি একাধিক API-এর মাধ্যমে AICore অ্যাক্সেস করেন। এছাড়াও, AICore-এ বেশ কিছু বিল্ট-ইন সুরক্ষা বৈশিষ্ট্য রয়েছে, যা আমাদের সুরক্ষা ফিল্টারগুলোর মাধ্যমে একটি পুঙ্খানুপুঙ্খ মূল্যায়ন নিশ্চিত করে। নিচের ডায়াগ্রামটিতে দেখানো হয়েছে, কীভাবে একটি অ্যাপ ডিভাইসে Gemini Nano চালানোর জন্য AICore অ্যাক্সেস করে।

একটি ডায়াগ্রাম যেখানে দেখানো হয়েছে কিভাবে একটি অ্যান্ড্রয়েড অ্যাপ গুগল এআই এজ এসডিকে ব্যবহার করে এআইকোর (AICore) অ্যাক্সেস করে, যেখানে জেমিনি ন্যানো (Gemini Nano), লোরা (LoRA), এবং সুরক্ষা বৈশিষ্ট্যগুলো পরিচালিত হয় এবং হার্ডওয়্যার অ্যাক্সিলারেটরে চলে।
চিত্র ১. AICore আপনার অ্যাপ এবং Gemini Nano মডেলের মধ্যে ইন্টারফেস হিসেবে কাজ করে, যা ডিভাইসের হার্ডওয়্যার ব্যবহার করে মডেল আপডেট এবং নিরাপত্তা পরিচালনা করে।

ব্যবহারকারীর ডেটা গোপন ও সুরক্ষিত রাখুন

ডিভাইস-ভিত্তিক জেনারেটিভ এআই স্থানীয়ভাবে নির্দেশাবলী সম্পাদন করে, ফলে সার্ভার কলের প্রয়োজন হয় না। যদিও এটি নেটওয়ার্ক ল্যাটেন্সি দূর করে, তবে ইনফারেন্সের গতি ডিভাইসের হার্ডওয়্যারের উপর নির্ভর করে। এই পদ্ধতিটি সংবেদনশীল ডেটা ডিভাইসে রেখে গোপনীয়তা বাড়ায়, অফলাইন কার্যকারিতা সক্ষম করে এবং ইনফারেন্স খরচ কমায়।

AICore প্রাইভেট কম্পিউট কোর-এর নীতিমালা মেনে চলে এবং এর নিম্নলিখিত প্রধান বৈশিষ্ট্যগুলো রয়েছে:

  • সীমাবদ্ধ প্যাকেজ বাইন্ডিং : AICore বেশিরভাগ অন্যান্য প্যাকেজ থেকে বিচ্ছিন্ন থাকে, তবে নির্দিষ্ট কিছু সিস্টেম প্যাকেজের ক্ষেত্রে এর ব্যতিক্রম রয়েছে। এই অনুমোদিত তালিকায় যেকোনো পরিবর্তন শুধুমাত্র একটি সম্পূর্ণ অ্যান্ড্রয়েড OTA আপডেটের সময় করা যেতে পারে।
  • পরোক্ষ ইন্টারনেট সংযোগ : AICore-এর সরাসরি ইন্টারনেট সংযোগ নেই। মডেল ডাউনলোড সহ সমস্ত ইন্টারনেট অনুরোধ ওপেন-সোর্স প্রাইভেট কম্পিউট সার্ভিসেস কম্প্যানিয়ন APK-এর মাধ্যমে পরিচালিত হয়। প্রাইভেট কম্পিউট সার্ভিসেস-এর অন্তর্ভুক্ত API-গুলোকে অবশ্যই তাদের গোপনীয়তা-কেন্দ্রিক প্রকৃতি স্পষ্টভাবে প্রদর্শন করতে হবে।

এছাড়াও, ব্যবহারকারীর গোপনীয়তা রক্ষার জন্য AICore প্রতিটি অনুরোধকে আলাদা করে রাখে এবং ইনপুট ডেটা বা প্রক্রিয়াকরণের পরে প্রাপ্ত আউটপুটের কোনো রেকর্ড সংরক্ষণ করে না। আরও জানতে Gemini Nano-এর জন্য গোপনীয়তা ও সুরক্ষার একটি ভূমিকা ব্লগ পোস্টটি পড়ুন।

AICore-এর একটি বিশদ আর্কিটেকচার ডায়াগ্রাম যা অনুরোধের প্রবাহ দেখাচ্ছে: এপিআই সারফেস, সেফটি সিগন্যাল সহ ইনপুট প্রসেসিং, ফিচার কনফিগারেশন, মডেল ওয়েট এবং LoRA সহ রানটাইম, এবং সেফটি সিগন্যাল সহ আউটপুট প্রসেসিং। এটি প্রাইভেট কম্পিউট সার্ভিসের মাধ্যমে মডেল ডাউনলোডও দেখায়।
চিত্র ২। AICore আর্কিটেকচারটি ডিভাইসে থাকা AI-এর জন্য একটি নিরাপদ পরিবেশ প্রদান করতে ইনপুট ও আউটপুট সুরক্ষা, অনুরোধ প্রক্রিয়াকরণ এবং মডেলের ওজন ব্যবস্থাপনা করে।

AICore-এর মাধ্যমে এআই ফাউন্ডেশন মডেলগুলি অ্যাক্সেস করার সুবিধাগুলি

AICore অ্যান্ড্রয়েড অপারেটিং সিস্টেমকে এআই ফাউন্ডেশন মডেল সরবরাহ ও পরিচালনা করতে সক্ষম করে। এর ফলে আপনার অ্যাপে এই বৃহৎ মডেলগুলো ব্যবহারের খরচ উল্লেখযোগ্যভাবে কমে যায়, যার প্রধান কারণগুলো হলো:

  • স্থাপনের সহজতা : AICore জেমিনি ন্যানো-র বিতরণ এবং ভবিষ্যতের আপডেটগুলি পরিচালনা করে। আপনাকে নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করা নিয়ে চিন্তা করতে হবে না, কিংবা এটি আপনার অ্যাপের ডিস্ক এবং রানটাইম মেমরি বাজেটের উপর কোনো প্রভাব ফেলবে না।
  • ত্বরান্বিত ইনফারেন্স : AICore ইনফারেন্সকে ত্বরান্বিত করতে ডিভাইসের নিজস্ব হার্ডওয়্যার ব্যবহার করে। আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পায় এবং আপনাকে অন্তর্নিহিত হার্ডওয়্যার ইন্টারফেস নিয়ে চিন্তা করতে হয় না।