جستجوی مقالات مرتبط با کلیدواژه
تکرار جستجوی کلیدواژه approximate query processing در نشریات گروه علوم انسانی
approximate query processing
در نشریات گروه جغرافیا
تکرار جستجوی کلیدواژه approximate query processing در مقالات مجلات علمی
-
در سال های اخیر با پیشرفت فن آوری های جمع آوری و مدیریت داده، پایگاه داده های بسیار بزرگ پدیدار شده اند. بسیاری از پرس وجوهای تجزیه و تحلیل بر اساس ماهیتشان به تجمیع و خلاصه سازی بخش های بزرگی از داده های در حال تجزیه و تحلیل نیاز دارند. مسئله اصلی در حیطه ی پایگاه داده پردازش کارآمد پرس وجو مخصوصا در سیستم های لحظه ای[1] است که نیازمند رسیدن به جواب آنی می باشد تا اینکه کاربر زمان زیادی را برای دریافت پاسخ صرف نکند. (AQP (Approximate Query Processingبه عنوان روشی جایگزین برای پردازش پرس وجو در محیط هایی که ارائه یک پاسخ دقیق زمان بر است، با هدف ارائه پاسخ تخمینی، کاهش زمان پاسخ را با حذف یا کاهش تعداد دسترسی ها به داده ی پایه میسر می سازد. پردازش [2]In-Database عملکرد شبکه های کامپیوتری را بهبود بخشیده و به طراحی مناسب پرس وجو ها با نتایج نسبتا سریع و دقیق کمک می کند.
در این پژوهش عملیات تجمیع (Sum) در پایگاه داده PostgreSQL روی داده های رستری بارش به دو روش معمولی و بهینه پیشنهاد شده، انجام شده است. بررسی نتایج نشان می دهد که سرعت اجرای تابع Sum با خوشه بندی، 2/27 برابر اجرای این تابع بدون خوشه بندی است و میانگین اختلاف عددی پیکسل های حاصل از اجرای تابع Sum بهینه با اجرای تابع معمولی آن 028/0 می باشد.میانگین زمان اجرای پرس وجوهای معمولی و بهینه برای تابع Sum به ترتیب 211 و 754/7 ثانیه می باشد که نشانگر کارآمد بودن روش پیشنهاد شده در این تحقیق می باشد. نتایج تحقیق حاضر که در حقیقت کاهش معنی دار زمان پاسخ آنالیزهای داخل پایگاه داده ای در داده های رستری می باشد، می تواند در ارائه سرویس های رئال تایم تحت وب مانند هواشناسی، ترافیک و... که نیازمند تحلیل های آنی و جواب لحظه ای می باشند مورد استفاده قرار گیرد.
[1]- Real time
[2]- درون پایگاه دادهکلید واژگان: بهینه سازی تجمیع، پردازش تقریبی پرس و جو، پردازش In، Database، آنالیز رستری، SumIntroductionDuring the recent years, advances in data collection and management technology, have led to create very large databases. In contrast to other data such as numbers and strings, raster data are considered as complicated and contain special characteristics so that they are classified as big data. Due to the nature of spatial analysis queries, the need arises to aggregate or Summarize a large portions of the data to be analyzed. The main issue in the database era is the efficient query processing so that users do not spend long time for retrieving the requests. Traditional query processes return exact answers, however, the answers take more time than what is needed in real time systems. It notable that sometimes the query running time is much more important rather than the accuracy, specially, in real time services.
AQP (Approximate Query Processing) is an alternative method for query processing in time consuming environments that enables the system to provide fast approximated answers. One of the most significant applications of AQP is query optimization. AQP may play a valuable role to increase the speed of spatial queries facing robust and complicated data. It is also an efficient method for recognizing the needed data and subsequently, minimizing the cost of aggregation queries. Since 1980s, utilizing the approximation methods have been initiated for decision support systems. Also, AQP has been noticed to address some problems in database era during the past decade. The current technics in various research frontiers are only useful for relational database systems (Azevedo, et al., 2007(. The main idea behind in-database processing is elimination of big data sets transmission to disjointed programs. Since, in-database processing that all analysis are implemented into database, it offers fast implementation, scalability and security. Hence, In-Database processing improves the computer network productivity and participates in well-suited designing of fast response queries.MethodologyThe current research aims to compare traditional and optimized Sum aggregation operation to decrease the running time of spatial queries into PostgreSQL database. To undertake the research, 60 precipitation rasters have been used. The study area is located in Lorestan province and precipitation gauging stations were used as primary data. Rasters data have been created from monthly precipitation data for the period of 2010-2014 using Krigging interpolation method and entered into PostgreSQL database using Raster2pgSQl extension. In the following, rasters pixels are stored into their related tables. In optimized aggregation method, firstly, raster data are clustered by the written similarity function. The used functions have been written by PL/pgSQL language in PostGIS. The execution steps of Sum function are as the following: creating the similarity function, performing the function, running the optimized query and consequently, resulting the approximated query respectively.
Subsequently, one raster is selected from each cluster and it is multiplied by the number of rasters belong to the given cluster. The resulted raster is entered to Sum function as the representative of the cluster. In each cluster, the number of implemented arithmetic operations is reduced as the following formula: (number of rasters in the cluster-1) *rows*columns of the given raster). Using the mentioned method, the number of arithmetic operations are significantly reduced and prepares the fast approximate answers. Finally, for accuracy assessment, the error of each method was approximated by calculating mean relative error, DI (difference indicator) error and relative error for each raster. Finally, the achieved results were analyzed.
It is mentionable that the user may make a decision whether the resulted accuracy is acceptable for a particular project or an exact query has to be executed.Results And DiscussionIn this research to compare the traditional and optimized Sum function, five scenarios have been implemented. The results show that the optimized Sum function is 27.2 times faster than the traditional function. The average difference of pixel values between the traditional and optimized one is 0.028. Consequently, the query running time for the optimized and traditional Sum is 7.754 and 211 seconds respectively, which implies the efficiency of the used method (optimized Sum).
It is notable that the accuracy of the optimized method depends on the nature and homogeneity or heterogeneity of the used rasters.
The valuable decreasing of the in-database spatial query running time may be used to offer real time web-based services such as meteorology, traffic and etc., which need to real time analysis and fast retrieving responses.Keywords: Aggregation optimization, Approximate Query Processing, In-Database processing, raster analyses, Sum
نکته
- نتایج بر اساس تاریخ انتشار مرتب شدهاند.
- کلیدواژه مورد نظر شما تنها در فیلد کلیدواژگان مقالات جستجو شدهاست. به منظور حذف نتایج غیر مرتبط، جستجو تنها در مقالات مجلاتی انجام شده که با مجله ماخذ هم موضوع هستند.
- در صورتی که میخواهید جستجو را در همه موضوعات و با شرایط دیگر تکرار کنید به صفحه جستجوی پیشرفته مجلات مراجعه کنید.