線程池是一種多線程處理形式霹肝,大多用于高并發(fā)服務(wù)器上估蹄,它能合理有效的利用高并發(fā)服務(wù)器上的線程資源;線程與進程用于處理各項分支子功能沫换,我們通常的操作是:接收消息 ==> 消息分類 ==> 線程創(chuàng)建 ==> 傳遞消息到子線程 ==> 線程分離 ==> 在子線程中執(zhí)行任務(wù) ==> 任務(wù)結(jié)束退出臭蚁;
對大多數(shù)小型局域網(wǎng)的通信來說,上述方法足夠滿足需求讯赏;但當(dāng)我們的通信范圍擴大到廣域網(wǎng)或大型局域網(wǎng)通信中時刊棕,我們將面臨大量消息頻繁請求服務(wù)器;在這種情況下待逞,創(chuàng)建與銷毀線程都已經(jīng)成為一種奢侈的開銷甥角,特別對于嵌入式服務(wù)器來說更應(yīng)保證內(nèi)存資源的合理利用;
因此识樱,線程池技術(shù)應(yīng)運而生嗤无;線程池允許一個線程可以多次復(fù)用,且每次復(fù)用的線程內(nèi)部的消息處理可以不相同怜庸,將創(chuàng)建與銷毀的開銷省去而不必來一個請求開一個線程当犯;
結(jié)構(gòu)講解:
線程池是一個抽象的概念,其內(nèi)部由任務(wù)隊列割疾,一堆線程嚎卫,管理者線程組成;
我們將以上圖為例宏榕,實現(xiàn)一個最基礎(chǔ)的線程池拓诸,接下來將分部分依次講解;講解順序為:1.線程池總體結(jié)構(gòu) 2.線程數(shù)組 3.任務(wù)隊列 4.管理者線程 5.使用線程池接口的例子
一麻昼、線程池總體結(jié)構(gòu)
這里講解線程池在邏輯上的結(jié)構(gòu)體奠支;看下方代碼,該結(jié)構(gòu)體threadpool_t中包含線程池狀態(tài)信息抚芦,任務(wù)隊列信息以及多線程操作中的互斥鎖倍谜;在任務(wù)結(jié)構(gòu)體中包含了一個可以放置多種不同任務(wù)函數(shù)的函數(shù)指針,一個傳入該任務(wù)函數(shù)的void*類型的參數(shù)叉抡;
注意:在使用時需要將你的消息分類處理函數(shù)裝入任務(wù)的(*function);然后放置到任務(wù)隊列并通知空閑線程尔崔;
線程池狀態(tài)信息:描述當(dāng)前線程池的基本信息,如是否開啟褥民、最小線程數(shù)季春、最大線程數(shù)、存活線程數(shù)轴捎、忙線程數(shù)鹤盒、待銷毀線程數(shù)等… …
任務(wù)隊列信息:描述當(dāng)前任務(wù)隊列基本信息,如最大任務(wù)數(shù)侦副、隊列不為滿條件變量侦锯、隊列不為空條件變量等… …
多線程互斥鎖:保證在同一時間點上只有一個線程在任務(wù)隊列中取任務(wù)并修改任務(wù)隊列信息、修改線程池信息秦驯;
函數(shù)指針:在打包消息階段尺碰,將分類后的消息處理函數(shù)放在(*function);
void*類型參數(shù):用于傳遞消息處理函數(shù)需要的信息;
/*任務(wù)*/
typedef struct {
void *(*function)(void *);
void *arg;
} threadpool_task_t;
/*線程池管理*/
struct threadpool_t{
pthread_mutex_t lock; /* 鎖住整個結(jié)構(gòu)體 */
pthread_mutex_t thread_counter; /* 用于使用忙線程數(shù)時的鎖 */
pthread_cond_t queue_not_full; /* 條件變量译隘,任務(wù)隊列不為滿 */
pthread_cond_t queue_not_empty; /* 任務(wù)隊列不為空 */
pthread_t *threads; /* 存放線程的tid,實際上就是管理了線 數(shù)組 */
pthread_t admin_tid; /* 管理者線程tid */
threadpool_task_t *task_queue; /* 任務(wù)隊列 */
/*線程池信息*/
int min_thr_num; /* 線程池中最小線程數(shù) */
int max_thr_num; /* 線程池中最大線程數(shù) */
int live_thr_num; /* 線程池中存活的線程數(shù) */
int busy_thr_num; /* 忙線程亲桥,正在工作的線程 */
int wait_exit_thr_num; /* 需要銷毀的線程數(shù) */
/*任務(wù)隊列信息*/
int queue_front; /* 隊頭 */
int queue_rear; /* 隊尾 */
int queue_size;
/* 存在的任務(wù)數(shù) */
int queue_max_size; /* 隊列能容納的最大任務(wù)數(shù) */
/*線程池狀態(tài)*/
int shutdown; /* true為關(guān)閉 */
};
**/*創(chuàng)建線程池*/**
threadpool_t *
threadpool_create(int min_thr_num, int max_thr_num, int queue_max_size)
{ /* 最小線程數(shù) 最大線程數(shù) 最大任務(wù)數(shù)*/
int i;
threadpool_t *pool = NULL;
do
{
/* 線程池空間開辟 */
if ((pool=(threadpool_t *)malloc(sizeof(threadpool_t))) == NULL)
{
printf("malloc threadpool false; \n");
break;
}
/*信息初始化*/
pool->min_thr_num = min_thr_num;
pool->max_thr_num = max_thr_num;
pool->busy_thr_num = 0;
pool->live_thr_num = min_thr_num;
pool->wait_exit_thr_num = 0;
pool->queue_front = 0;
pool->queue_rear = 0;
pool->queue_size = 0;
pool->queue_max_size = queue_max_size;
pool->shutdown = false;
/* 根據(jù)最大線程數(shù),給工作線程數(shù)組開空間固耘,清0 */
pool->threads = (pthread_t *)malloc(sizeof(pthread_t)*max_thr_num);
if (pool->threads == NULL)
{
printf("malloc threads false;\n");
break;
}
memset(pool->threads, 0, sizeof(pthread_t)*max_thr_num);
/* 隊列開空間 */
pool->task_queue =
(threadpool_task_t *)malloc(sizeof(threadpool_task_t)*queue_max_size);
if (pool->task_queue == NULL)
{
printf("malloc task queue false;\n");
break;
}
/* 初始化互斥鎖和條件變量 */
if ( pthread_mutex_init(&(pool->lock), NULL) != 0 ||
pthread_mutex_init(&(pool->thread_counter), NULL) !=0 ||
pthread_cond_init(&(pool->queue_not_empty), NULL) !=0 ||
pthread_cond_init(&(pool->queue_not_full), NULL) !=0)
{
printf("init lock or cond false;\n");
break;
}
/* 啟動min_thr_num個工作線程 */
for (i=0; i<min_thr_num; i++)
{
/* pool指向當(dāng)前線程池 threadpool_thread函數(shù)在后面講解 */
pthread_create(&(pool->threads[i]), NULL, threadpool_thread, (void *)pool);
printf("start thread 0x%x... \n", (unsigned int)pool->threads[i]);
}
/* 管理者線程 admin_thread函數(shù)在后面講解 */
pthread_create(&(pool->admin_tid), NULL, admin_thread, (void *)pool);
return pool;
} while(0);
/* 釋放pool的空間 */
threadpool_free(pool);
return NULL;
}
二题篷、線程數(shù)組
線程數(shù)組實際上是在線程池初始化時開辟的一段存放一堆線程tid的空間,在邏輯上形成一個池厅目,里面放置著提前創(chuàng)建的線程番枚;這段空間中包含了正在工作的線程,等待工作的線程(空閑線程)损敷,等待被銷毀的線程葫笼,申明但沒有初始化的線程空間;
更多C++? Linux服務(wù)器開發(fā)知識請請擊進入【C/C++linux服務(wù)器開發(fā)】
/*工作線程*/
void *
threadpool_thread(void *threadpool)
{
threadpool_t *pool = (threadpool_t *)threadpool;
threadpool_task_t task;
while (true)
{
pthread_mutex_lock(&(pool->lock));
/* 無任務(wù)則阻塞在 “任務(wù)隊列不為空” 上拗馒,有任務(wù)則跳出 */
while ((pool->queue_size == 0) && (!pool->shutdown))
{
printf("thread 0x%x is waiting \n", (unsigned int)pthread_self());
pthread_cond_wait(&(pool->queue_not_empty), &(pool->lock));
/* 判斷是否需要清除線程,自殺功能 */
if (pool->wait_exit_thr_num > 0)
{
pool->wait_exit_thr_num--;
/* 判斷線程池中的線程數(shù)是否大于最小線程數(shù)路星,是則結(jié)束當(dāng)前線程 */
if (pool->live_thr_num > pool->min_thr_num)
{
printf("thread 0x%x is exiting \n", (unsigned int)pthread_self());
pool->live_thr_num--;
pthread_mutex_unlock(&(pool->lock));
pthread_exit(NULL);//結(jié)束線程
}
}
}
/* 線程池開關(guān)狀態(tài) */
if (pool->shutdown) //關(guān)閉線程池
{
pthread_mutex_unlock(&(pool->lock));
printf("thread 0x%x is exiting \n", (unsigned int)pthread_self());
pthread_exit(NULL); //線程自己結(jié)束自己
}
//否則該線程可以拿出任務(wù)
task.function = pool->task_queue[pool->queue_front].function; //出隊操作
task.arg = pool->task_queue[pool->queue_front].arg;
pool->queue_front = (pool->queue_front + 1) % pool->queue_max_size; //環(huán)型結(jié)構(gòu)
pool->queue_size--;
//通知可以添加新任務(wù)
pthread_cond_broadcast(&(pool->queue_not_full));
//釋放線程鎖
pthread_mutex_unlock(&(pool->lock));
//執(zhí)行剛才取出的任務(wù)
printf("thread 0x%x start working \n", (unsigned int)pthread_self());
pthread_mutex_lock(&(pool->thread_counter)); //鎖住忙線程變量
pool->busy_thr_num++;
pthread_mutex_unlock(&(pool->thread_counter));
(*(task.function))(task.arg); //執(zhí)行任務(wù)
//任務(wù)結(jié)束處理
printf("thread 0x%x end working \n", (unsigned int)pthread_self());
pthread_mutex_lock(&(pool->thread_counter));
pool->busy_thr_num--;
pthread_mutex_unlock(&(pool->thread_counter));
}
pthread_exit(NULL);
}
三、任務(wù)隊列
任務(wù)隊列的存在形式與線程數(shù)組相似诱桂;在線程池初始化時根據(jù)傳入的最大任務(wù)數(shù)開辟空間洋丐;當(dāng)服務(wù)器前方后請求到來后,分類并打包消息成為任務(wù)挥等,將任務(wù)放入任務(wù)隊列并通知空閑線程來鹊姘ぁ;不同之處在于任務(wù)隊列有明顯的先后順序触菜,先進先出九榔;而線程數(shù)組中的線程則是一個競爭關(guān)系去拿到互斥鎖爭取任務(wù);
/*向線程池的任務(wù)隊列中添加一個任務(wù)*/
int
threadpool_add_task(threadpool_t *pool, void *(*function)(void *arg), void *arg)
{
pthread_mutex_lock(&(pool->lock));
/*如果隊列滿了,調(diào)用wait阻塞*/
while ((pool->queue_size == pool->queue_max_size) && (!pool->shutdown))
pthread_cond_wait(&(pool->queue_not_full), &(pool->lock));
/*如果線程池處于關(guān)閉狀態(tài)*/
if (pool->shutdown)
{
pthread_mutex_unlock(&(pool->lock));
return -1;
}
/*清空工作線程的回調(diào)函數(shù)的參數(shù)arg*/
if (pool->task_queue[pool->queue_rear].arg != NULL)
{
free(pool->task_queue[pool->queue_rear].arg);
pool->task_queue[pool->queue_rear].arg = NULL;
}
/*添加任務(wù)到任務(wù)隊列*/
pool->task_queue[pool->queue_rear].function = function;
pool->task_queue[pool->queue_rear].arg = arg;
pool->queue_rear = (pool->queue_rear + 1) % pool->queue_max_size; /* 邏輯環(huán) */
pool->queue_size++;
/*添加完任務(wù)后,隊列就不為空了,喚醒線程池中的一個線程*/
pthread_cond_signal(&(pool->queue_not_empty));
pthread_mutex_unlock(&(pool->lock));
return 0;
}
四涡相、管理者線程
作為線程池的管理者哲泊,該線程的主要功能包括:檢查線程池內(nèi)線程的存活狀態(tài),工作狀態(tài)催蝗;負責(zé)根據(jù)服務(wù)器當(dāng)前的請求狀態(tài)去動態(tài)的增加或刪除線程切威,保證線程池中的線程數(shù)量維持在一個合理高效的平衡上;
說到底丙号,它就是一個單獨的線程先朦,定時的去檢查缰冤,根據(jù)我們的一個維持平衡算法去增刪線程;
/*管理線程*/
void *
admin_thread(void *threadpool)
{
int i;
threadpool_t *pool = (threadpool_t *)threadpool;
while (!pool->shutdown)
{
printf("admin -----------------\n");
sleep(DEFAULT_TIME); /*隔一段時間再管理*/
pthread_mutex_lock(&(pool->lock)); /*加鎖*/
int queue_size = pool->queue_size; /*任務(wù)數(shù)*/
int live_thr_num = pool->live_thr_num; /*存活的線程數(shù)*/
pthread_mutex_unlock(&(pool->lock)); /*解鎖*/
pthread_mutex_lock(&(pool->thread_counter));
int busy_thr_num = pool->busy_thr_num; /*忙線程數(shù)*/
pthread_mutex_unlock(&(pool->thread_counter));
printf("admin busy live -%d--%d-\n", busy_thr_num, live_thr_num);
/*創(chuàng)建新線程 實際任務(wù)數(shù)量大于 最小正在等待的任務(wù)數(shù)量喳魏,存活線程數(shù)小于最大線程數(shù)*/
if (queue_size >= MIN_WAIT_TASK_NUM && live_thr_num <= pool->max_thr_num)
{
printf("admin add-----------\n");
pthread_mutex_lock(&(pool->lock));
int add=0;
/*一次增加 DEFAULT_THREAD_NUM 個線程*/
for (i=0; i<pool->max_thr_num && add<DEFAULT_THREAD_NUM
&& pool->live_thr_num < pool->max_thr_num; i++)
{
if (pool->threads[i] == 0 || !is_thread_alive(pool->threads[i]))
{
pthread_create(&(pool->threads[i]), NULL, threadpool_thread, (void *)pool);
add++;
pool->live_thr_num++;
printf("new thread -----------------------\n");
}
}
pthread_mutex_unlock(&(pool->lock));
}
/*銷毀多余的線程 忙線程x2 都小于 存活線程棉浸,并且存活的大于最小線程數(shù)*/
if ((busy_thr_num*2) < live_thr_num && live_thr_num > pool->min_thr_num)
{
// printf("admin busy --%d--%d----\n", busy_thr_num, live_thr_num);
/*一次銷毀DEFAULT_THREAD_NUM個線程*/
pthread_mutex_lock(&(pool->lock));
pool->wait_exit_thr_num = DEFAULT_THREAD_NUM;
pthread_mutex_unlock(&(pool->lock));
for (i=0; i<DEFAULT_THREAD_NUM; i++)
{
//通知正在處于空閑的線程,自殺
pthread_cond_signal(&(pool->queue_not_empty));
printf("admin cler --\n");
}
}
}
return NULL;
/*線程是否存活*/
int
is_thread_alive(pthread_t tid)
{
int kill_rc = pthread_kill(tid, 0); //發(fā)送0號信號刺彩,測試是否存活
if (kill_rc == ESRCH) //線程不存在
{
return false;
}
return true;
}
五迷郑、釋放
/*釋放線程池*/
int
threadpool_free(threadpool_t *pool)
{
if (pool == NULL)
return -1;
if (pool->task_queue)
free(pool->task_queue);
if (pool->threads)
{
free(pool->threads);
pthread_mutex_lock(&(pool->lock)); /*先鎖住再銷毀*/
pthread_mutex_destroy(&(pool->lock));
pthread_mutex_lock(&(pool->thread_counter));
pthread_mutex_destroy(&(pool->thread_counter));
pthread_cond_destroy(&(pool->queue_not_empty));
pthread_cond_destroy(&(pool->queue_not_full));
}
free(pool);
pool = NULL;
return 0;
}
/*銷毀線程池*/
int
threadpool_destroy(threadpool_t *pool)
{
int i;
if (pool == NULL)
{
return -1;
}
pool->shutdown = true;
/*銷毀管理者線程*/
pthread_join(pool->admin_tid, NULL);
//通知所有線程去自殺(在自己領(lǐng)任務(wù)的過程中)
for (i=0; i<pool->live_thr_num; i++)
{
pthread_cond_broadcast(&(pool->queue_not_empty));
}
/*等待線程結(jié)束 先是pthread_exit 然后等待其結(jié)束*/
for (i=0; i<pool->live_thr_num; i++)
{
pthread_join(pool->threads[i], NULL);
}
threadpool_free(pool);
return 0;
}
六、接口
/* 線程池初始化创倔,其管理者線程及工作線程都會啟動 */
threadpool_t *thp = threadpool_create(10, 100, 100);
printf("threadpool init ... ... \n");
/* 接收到任務(wù)后添加 */
threadpool_add_task(thp, do_work, (void *)p);
// ... ...
/* 銷毀 */
threadpool_destroy(thp)嗡害;
更多C++? Linux服務(wù)器開發(fā)知識請請擊進入【C/C++linux服務(wù)器開發(fā)】