همان گونه که مشاهده می شود، مقدار رنگ خاکستری مرز لبه، ترکیبی از مقدار رنگ خاکستری سمت یک سمت لبه و مقدار رنگ خاکستری سمت دیگر لبه هست. با مقایسه این دو رنگ امکان بدست آوردن مکان دقیق مرز با دقت کسری از یک پیکسل امکان پذیر می گردد. این محاسبه یک درون یابی است. و به شکل زیر نوشته می شود:
به عنوان مثال برای قطعه ای با قطر میلیمتر است.، باید تصویر به گونه ای باشد که تمامی آن در ضلع کمینه ی مستطیل تصویر به راحتی قابل رویت باشد. در نتیجه عرض ناحیه ی دید بسته به ذقت جانمایی قطعه باید مقداری بیشتر از میلیمتر باشد.
آشکارسازی لبه ( Edge Detection ) یکی از عملیات های مهم و پر کاربرد در علم پردازش تصویر می باشد و معمولا برای تشخیص لبه های یک شیئ از بین چند شیئ دیگر مورد است.فاده زرار می گیرد. تغییرات فیزیکی که در محیط واقعی وجود دارد، در تصویر به صورت تغییر رنگ و تغییر شدت روشنایی ، به صورت لبه، نمایان می شوند.
علاوه بر آن که با بهبود تجهیزات اپتیکی می توان از ریخت افتادگی تصویر را بهبود بخشید، توسط کالیبره نر افزاری نیز می توان این انحرافات را تا حد قابل قبولیکاهش داد. نحوه کار به این صورت است. که یک الگوی دقیق را)دقت آن باید حداقل ده درصد اندازه گیری باشد ( در جلوی دوربین قرار داده می شود. این الگو، با ابعاد و توصیف آن ،در نرم افزار تعریف شده است. نرم افزار با محاسبه تفاوت مابین الگوی پیش فرض و تصویر اخذشده از همان الگو در جهان واقعی ، اقدام به جبران انحرافات و تبدیل به تصاویری خالی از هر گونه تغییر فرم و انحراف می نماید .
یکی از پارامترهایی که در یک دوربین مهم است. اندازه ی فیزیکی یک پیکسل بر روی تراشه ی سنسور اخذ تصویر است.. اندازه ی هر پیکسل در یک دوربین از حدود * میکرون شروع شده و با افزایش رزولوشن آن این اندازه کاهش می یابد. به عنوان مثال در یک دوربین ۵ مگاپیکسل در حدود / میکرون می باشد.